GPT-4o обладает «средним» уровнем риска. OpenAI опубликовал оценку безопасности

OpenAI выпустила системную карту GPT-4o — документ, в котором описана оценка рисков, проведенная перед выпуском своей последней модели

OpenAI, ведущая компания в области искусственного интеллекта, выпустила системную карту своей последней модели GPT-4o, обозначив ее как обладающую «средним» уровнем риска.

Документ, представленный компанией, включает оценки безопасности и результаты анализа, проведенные как внутренними, так и внешними экспертами.

В рамках подготовки к выпуску GPT-4o, который был представлен в мае, OpenAI привлекла к анализу рисков экспертов из группы «красных бригадиров», специализирующихся на выявлении потенциальных уязвимостей. Основное внимание уделялось рискам, связанным с несанкционированным клонированием голосов, созданием запрещенного контента и нарушением авторских прав.

По словам Линдси МакКаллум Реми, представителя OpenAI, системная карта является частью более широкой политики компании по укреплению безопасности своих продуктов, особенно в свете предстоящих президентских выборов в США. Это связано с риском непреднамеренного распространения дезинформации или злоупотреблений со стороны хакеров.

Что такое ChatGPT: