Пытаюсь найти как работает механизм внушения от обратного.

Это когда вам говорят "не делай так", а вы делаете именно так. Не назло, вы сами хотели сделать иначе. Где-то включается механизм, который переводит отрицательное в положительное.

Очень приближенно этот эффект можно назвать "не думай о серой букашке". Вот какая область психологии этим занимается?

(Основной вопрос, в конечном итоге - как этого эффекта избегать. Я довольно легко поддаюсь на всякие такие штуки, а есть человек, который очень любит давать советы именно в такой форме "не делай так", "проверь, не сделала ли так". Здорово мешает.)