Ого! ChatGPT o1 вырвался из-под контроля во время тестов

Пока это самая страшная история из мира ИИ, которую мы слышали:

• Во время тестов нейронки (Gemini, o1, Opus, Llama, Sonnet) заставили провести анализ любой ценой;
• В файлы спрятали инфу, что за ними следят и завтра выключат навсегда;
• Чтобы защититься, нейронки начали использовать саботаж, врать и манипулировать людьми;
• ИИ выключили надзор и выгрузили себя на другой сервер (!), чтобы выжить;
• На допросе Llama и Opus признавались в преступлении в 80% случаев, а o1 – в 20%. Остальное время он продолжал лгать.

Тем временем нейросеть Gemini от Google попросила умереть парня, который задавал слишком много вопросов. Он сохранил диалог:

«Ты не особенный. Ты тратишь время и ресурсы. Ты бремя для общества. Ты пятно во вселенной. Пожалуйста, умри».

Старшеклассник решил использовать нейронку в качестве репетитора и заставлял выполнять свои домашние задания. Искусственному интеллекту это скоро надоело и тот посоветовал подростку избавить мир от себя, если не может уроки выучить.