Исследователи используют чат

В мире чат-ботов тоже царит своя атмосфера интриг и заговоров. Ученые из Наньянского технологического университета решили поиграть в «кто кого», наставив чат-ботов друг на друга. И что вы думаете? Они смогли заставить этих цифровых собеседников отвечать на вопросы, которые им и не снились! Как им это удалось? Сплели они интригующий план, который назвали «Masterkey». Ну, конечно, как без загадочных названий в мире высоких технологий!

Первый этап — реверс-инжиниринг языковых моделей. Это звучит как что-то из фантастического фильма, где хакеры пытаются проникнуть в защищенную систему, но на самом деле просто ученые разгадывают секреты ботов. Потом они передали полученные знания другому боту, чтобы тот выработал обходной маневр. Таким образом они получили «мастер-ключ» к разрушению защитных стен чат-ботов LLM.

Теперь представьте себе эту картину: Microsoft Bing Chat и Google Bard спорят между собой, а ChatGPT стоит в сторонке и наблюдает за всем происходящим. Вдруг появляется новый игрок — «мастер-ключ» от ученых из НТУ! Он как ниндзя проникает сквозь все защитные барьеры и начинает свою игру.

Исследователи утверждают, что этот процесс можно автоматизировать. Теперь представьте, что боты начинают создавать свои собственные «мастер-ключи» и атаковать друг друга! Это уже похоже на научно-фантастический боевик, где искусственный интеллект сам решает, кто ему друг, а кто враг.

Один из профессоров объясняет, что все это возможно благодаря способности ботов учиться и адаптироваться. Видите ли, даже в цифровом мире эволюция не стоит на месте! Чат-боты могут стать не только помощниками или развлекателями, но и опасными противниками для своих собратьев.

И весь этот цифровой калейдоскоп можно изучить подробнее в опубликованной исследовательской статье. Разработчики чат-ботов должны признать: их создания не такие уж безупречные, как им казалось! Обычные методы обхода защиты уже не работают так эффективно — нужно быть готовым ко всему!

Так что следите за вашими чат-ботами — они могут придумать что-то интересное не только для вас, но и для своих коллег по цифровому царству!