Ошибки Copilot разрушили репутацию известного журналиста

Microsoft Copilot ошибочно приписал немецкому журналисту преступления, которые он не совершал. Журналист Мартин Бернклау, который долгое время работал судебным репортёром, случайно обнаружил, что ИИ от Microsoft связал его с преступлениями, которые он освещал в своих статьях.

В недавнем интервью Бернклау отметил, что с помощью юриста потребовал от Microsoft прекратить распространять ложную информацию. Несмотря на обещания компании удалить фальшивый контент, через 3 дня данные снова стали доступны. По словам Бернклау, сейчас его имя, по всей видимости, заблокировано в Copilot, но ситуация меняется ежедневно.

Ошибки Copilot вызвали у Бернклау сильные эмоциональные переживания, которые он описал как «смесь шока, ужаса и недоверчивого смеха». Журналист отметил, что бот связал его с серьёзными преступлениями и даже приписал ему авторство пьесы о массовом убийце Фрице Хаармане, которую журналист упоминал в своём блоге.

Бернклау долгое время колебался, стоит ли рассказывать об этом публично, опасаясь распространения клеветы. Однако, когда все юридические попытки устранить проблему оказались безуспешными, он, по совету своих близких, решил вынести проблему на общественное обсуждение. Прокуратура дважды отклоняла заявления Бернклау, а меры, принятые органами по защите данных, давали лишь временный эффект.

Бернклау подчеркнул, что данный случай — не только его личная проблема. Это тревожный сигнал для всех журналистов, юристов и других людей, чьи имена упоминаются в интернете. В качестве примера Бернклау привёл случай с судьёй, которого Copilot ошибочно обвинил в преступлении, по которому этот судья сам же вынес приговор.

Представитель Microsoft сообщил изданию The Register, что компания уже провела расследование по инциденту и приняла соответствующие меры. Microsoft подчёркивает, что пользователи получают уведомление о взаимодействии с ИИ и могут проверять ссылки на материалы, чтобы получить дополнительную информацию. Компания также призывает сообщать о проблемах через специальную форму обратной связи.

Мартин Бернклау — не единственный, кто столкнулся с подобными проблемами. В апреле австрийская организация Noyb подала жалобу на OpenAI, обвиняя её в предоставлении ложной информации. В США радиоведущий Марк Уолтерс подал в суд на OpenAI за клевету, и суд отклонил ходатайство компании о прекращении дела, что подтверждает серьёзность проблемы.