Корпорация Microsoft подверглась критике за публикацию большого количества статей, созданных искусственным интеллектом, на своем новостном портале MSN, сообщает портал SecurityLab.ru со ссылкой на CNN. После увольнения большинства редакторов, компания увеличила ставки на искусственный интеллект (ИИ), вложив в начале этого года 10 миллиардов долларов в создателя ChatGPT, компанию OpenAI.
Используя ИИ для создания контента, Microsoft столкнулась с рядом скандалов, включая публикацию и последующее удаление странного путеводителя по Оттаве, который советовал посетить «Банк еды» — благотворительную организацию, которая раздает еду и продукты нуждающимся — «натощак». После этого инцидента представитель Microsoft заявил, что статья была удалена и ведется расследование процесса ее проверки.
Ситуация усугубилась, когда рядом со статьей The Guardian о найденной мертвой женщине в Австралии был опубликован опрос, сгенерированный ИИ, в котором читателей спрашивали, умерла ли женщина от самоубийства, убийства или несчастного случая. После обвинений от The Guardian статей в нарушении журналистской этике, Microsoft отключила функцию опросов и начала расследование.
Кроме того, после перехода на автоматизацию и отказа от услуг человеческих редакторов на MSN появлялись и другие сомнительные материалы, такие как вымышленные истории о рыбаках, поймавших русалку, и о встречах с Бигфутом.
Бывшие редакторы новостного портала MSN выражают свое недоумение. Рин Пфеуффер, бывший редактор по стилю MSN, уволенная в 2020 году, рассказала CNN о том, как важно было отвечать за контент, учитывая миллионы читателей портала.
С переходом Microsoft на «персонализированную ленту», настроенную алгоритмами в 2020 году, возросла вероятность того, что миллионы пользователей увидят плохо исследованный, недостоверный, а временами даже опасный контент.
Отметим, что излишнее доверие к ИИ уже доставило ряд неприятностей не только Microsoft. Так, в начале августа бот, разработанный сетью супермаркетов в Новой Зеландии, порекомендовал пользователям приготовить бутерброд с ядом и коктейль с отбеливателем.
Представитель Microsoft заявил, что компания стремится решить проблему низкокачественных статей и работает с партнерами по контенту для удовлетворения стандартов компании, особенно после недавнего скандала с опросом.
Вопрос о том, приведут ли заявления компании к реальным действиям, остается открытым. Эти события вызывают беспокойство относительно будущего ИИ. Законодательство, регулирующее использование искусственного интеллекта, разрабатывается во многих странах. Однако, пока эта работа нигде не доведена до конца, эксперты рекомендуют компаниям не исключать человеческий контроль над ИИ, а всем пользователям особенно тщательно относиться ко всей информации от неизвестных авторов, распространяемой в сети.
С заботой о вашей безопасности, команда Origin Security
