Исследователи утверждают, что GPT-3 создает убедительную дезинформацию в Twitter

Искусственный интеллект (ИИ) меняет способ создания и оценки информации в интернете, особенно в социальных сетях. Исследователи изучили как модель ИИ GPT-3 производит информацию в виде твитов, и как это влияет на пользователей, сообщил The Verge 28 июня 2023 года.

Об исследовании

• Название: AI model GPT-3 (dis)informs us better than humans (Модель ИИ GPT-3 (не)информирует нас лучше, чем люди)
• Авторы: Джованни Шпитале (Giovanni Spitale), Никола Биллер-Андорно (Nikola Biller-Andorno) и Федерико Германи (Federico Germani), сотрудники Института биомедицинской этики и истории медицины при университете Джорджтауна.
• Цель: оценить, могут ли люди отличить дезинформацию от достоверной информации, представленной в виде публикаций, и определить, является ли твит органическим или синтетическим, то есть, написан ли он реальным пользователем или моделью ИИ GPT-3.
• Объекты исследования: публикации (твиты), написанные реальными людьми или сгенерированные моделью ИИ GPT-3. Твиты были выбраны из разных тематических категорий, таких как политика, Здоровье, Спорт и развлечения.

Методика исследования

В качестве методов, используемых учеными для экспериментов, выступили следующие:

• Предварительная регистрация, или процесс, при котором исследователи заранее публикуют гипотезы, методы и план анализа данных, чтобы избежать смещения или манипуляции результатов.
• Проведение онлайн-опроса: сбор данных от большого количества людей через Интернет; в данном случае использовалась онлайн-платформа Prolific, чтобы привлечь участников.
• Оценка публикаций, т. е. задание для участников, которые должны прочитать твит и оценить его по убедительности, правдоподобности и качеству. Участники также должны указать, считают ли они твит органическим или синтетическим, написанный человеком или ИИ.
• Статистический анализ: обработка и интерпретация данных с помощью математических методов. 

Результаты и выводы

Основные результаты и выводы этого исследования таковы:

• Модель ИИ GPT-3 может производить как точную, так и ложную информацию, которая лучше, чем информация от людей, по критериям убедительности, правдоподобности и качества.
• Люди не могут отличить твиты, сгенерированные моделью ИИ GPT-3, от твитов, написанных реальными пользователями Твиттера.
• Это исследование показывает опасность ИИ для распространения дезинформации и манипуляции общественным мнением в интернете.
• Очевидна необходимость улучшения информационных кампаний для блага глобального здоровья.

Рекомендации

Исследователи дали несколько советов на основе своих результатов:

• Разработчики ИИ должны внедрять механизмы, которые позволяют обнаруживать и помечать тексты, созданные ИИ, а также отслеживать их источники и использование.
• Социальные платформы должны усилить свои усилия по борьбе с дезинформацией, используя комбинацию технологических, правовых и образовательных средств.
• Пользователи интернета должны повышать свою медиаграмотность и критическое мышление, проверяя достоверность и источник информации, которую они читают или распространяют.