Столкнулся с такой задачей. Немного погуглив нашел интересный способ:
Вот ссылка на пост автора
Вот пример, на котором я проверял:
Таблица:

Начальное состояние:

Запрос:
DELETE t1 FROM temp AS t1, temp AS t2 WHERE t1.value1=t2.value1 AND t1.value2 = t2.value2 AND t2.idtemp>t1.idtemp
Результат:
3 row(s) deleted. ( Query took 0.0105 sec )
Таблица после
...