Судебный репортер Мартин Бернклау стал жертвой ИИ-галлюцинации, которая приписала ему вымышленные уголовные деяния
В конце августа 2024 года немецкий журналист Мартин Бернклау оказался в центре скандала, связанного с искусственным интеллектом (ИИ) от Microsoft. ИТ-инструмент Copilot, разработанный компанией, ошибочно приписал ему ряд серьезных преступлений, о которых Бернклау лишь писал в своих статьях как судебный репортер.
Бернклау, который десятилетиями освещал судебные процессы в Тюбингене, решил протестировать, как его имя воспринимается в интернете, используя Copilot через поисковую систему Bing. В результате, нейросеть не только обвинила его в преступлениях, но и снабдила ложные обвинения детализированными вымышленными фактами. Copilot заявил, что Бернклау был осужден за жестокое обращение с детьми, сбежал из психиатрической клиники и совершил ряд других уголовных преступлений. Более того, ИИ дал оценку его семейной жизни, выразив сожаление, что «у человека с таким криминальным прошлым есть семья», и предоставил его личные данные, включая адрес и номер телефона.
Ошеломленный Бернклау попытался разобраться в ситуации, обратившись в прокуратуру Тюбингена, но ему отказали в возбуждении дела, сославшись на то, что утверждения Copilot не исходят от реального человека. Microsoft же отреагировала, заявив, что не несет ответственности за контент, сгенерированный ИИ, ссылаясь на условия обслуживания.
Эта история вновь поднимает вопрос о надежности и этике использования ИИ в жизни и работе людей. Ошибки, известные как «ИИ-галлюцинации», когда нейросеть генерирует несуществующие или абсурдные данные, могут иметь серьезные последствия для реальных людей. Несмотря на обещания Microsoft исправить ситуацию, проблема остается актуальной: через несколько дней после устранения ошибки, те же ложные обвинения снова появились в ответах Copilot.
Что такое искусственный интеллект:
Свежие комментарии