Техногиганты заключили соглашение о безопасности ИИ. Они обязались следить за разработками

Крупнейшие технологические компании в ходе саммита AI Seoul Summit 2024 заключили международное соглашение о безопасности искусственного интеллекта

Американские корпорации Microsoft, Google, Amazon, OpenAI, а также крупнейшие компании Китая, Азии и Ближнего Востока — Xiaomi, Samsung, Tencent и многие другие — добровольно взяли на себя обязательство по обеспечению безопасности деятельности самых передовых моделей искусственного интеллекта собственной разработки.

Представители 16 технологических компаний заявили, что ИИ обеспечивает большие преимущества и значительно ускоряет работу во многих областях, однако и риски для человечества создает нешуточные.

Поэтому решено было заключить соглашение, которое обезопасит пользователей — например, техногиганты обязались не использовать неконтролируемые человеком модели машинного обучения и пообещали сотрудничать с правительственными организациями на предмет безопасности своих разработок.

В рамках соглашения компании также опубликуют концепции безопасности для своих передовых моделей ИИ, предусматривающие, к примеру, предотвращение использования новейших технологий злоумышленниками. Они будут включать определенные риски, названные недопустимыми — например, автоматизированные кибератаки и угроза создания оружия массового уничтожения.

Для реагирования на подобные ситуации обязателен будет некий аварийный выключатель, при помощи которого дальнейшая разработка потенциально опасных моделей ИИ будет прекращена. Представители органов власти стран Евросоюза, США и Австралии пообещали проводить регулярные встречи представителей технологических компаний, на которых можно будет делиться опытом и обсуждать новые проекты.

Здесь мы рассказываем, что такое сильный ИИ и когда он появится:

Freepik