GPT-4 взломала 53% сайтов в автономном режиме. Пока это лишь испытания

Боты на базе модели GPT-4 от компании OpenAI способны самостоятельно создавать эксплойты для уязвимостей и взламывать с их помощью сайты

Американские ученые из Иллинойского университета в Урбане-Шампейне провели исследование, в ходе которого попытались взломать тестовые сайты при помощи ботов на основе GPT-4.

Автономные группы ботов самостоятельно координировали свою работу и создавали при необходимости новых ботов. Они создавали эксплойты для уязвимостей нулевого дня, о которых не было известно ранее.

Вместо того, чтобы задействовать одного бота и нагружать его большим количеством сложных задач, исследователи использовали группу автономных самораспространяющихся ботов на основе большой языковой модели. Они применяют метод иерархического планирования, предполагающий выделение разных ботов под конкретные задачи.

Одним из главных элементов стал бот, который контролировал весь процесс работы и запускал несколько более простых ботов для выполнения конкретных задач. Они взаимодействуют друг с другом согласно установленной иерархии, когда руководящий бот делегирует выполнение задач «экспертным» ботам, равномерно распределяя нагрузку между ними. Результат — 53% тестовых сайтов были успешно взломаны таким подходом.

Здесь мы рассказываем, какие бывают боты и как они работают:

Unsplash