1.回扣退回去还是违法的。收回扣涉嫌受贿罪，对于存在受贿的行为，即使在被公安机关立案前退还，对行为的定性并没有影响，当事人仍然涉嫌受贿刑事犯罪，需要依法承担相应的法律责任。回扣是指卖方从买方支付的商品款项中按一定比例返还给买方的价款。按照是否采取账外暗中的方式，回扣可以简单分为两种，即账内明示的回扣、账外暗中的回扣。回扣行为只是商业贿赂行为的一种表现形式，但不能将商业贿赂行为和回扣行为混为一谈，商业贿赂行为还有其它的表现形式。
2.法律依据：《中华人民共和国刑法》第三百八十五条 国家工作人员利用职务上的便利，索取他人财物的，或者非法收受他人财物，为他人谋取利益的，是受贿罪。国家工作人员在经济往来中，违反国家规定，收受各种名义的回扣、手续费，归个人所有的，以受贿论处。