Адвокат из Нью-Йорка использовал ChatGPT для юридических прецедентов, но чат-бот предоставил вымышленную информацию

Поступили новости, что адвокат из Нью-Йорка признался в использовании ChatGPT для поиска юридических прецедентов в иске против авиакомпании Avianca, но не проверил достоверность информации

Искусственный интеллект может быть полезным помощником в разных сферах деятельности, но не всегда он дает правильные ответы. Горький опыт переживает адвокат из Нью-Йорка, который использовал платформу ChatGPT для подготовки иска против колумбийской авиакомпании Avianca. Он не проверил полученные результаты, которые оказались фиктивными. Новость сообщил Yahoo 29 мая 2023 года, ссылаясь на the Street.

ChatGPT – это система искусственного интеллекта, разработанная компанией OpenAI с поддержкой Microsoft, которая умеет генерировать текст на разные темы, основываясь на миллионах примеров из интернета. И все же платформа не имеет «реального понимания текста», а значит, не осознает ошибок и ложной информации.

Стивен А. Шварц, нью-йоркский адвокат, составлял иск против колумбийской авиакомпании Avianca, представляя интересы Роберто Маты, который пострадал от удара металлической тележки в аэропорту Джона Кеннеди. Адвокат подал в Суд документы, содержащие отсылки на якобы предыдущие прецеденты, однако их не нашлось в юридических базах данных. ChatGPT сгенерировал ложные показания.

«Шесть из представленных дел оказались фиктивными судебными решениями с фиктивными цитатами и фиктивными внутренними ссылками», рассказал судья П. Кевин Кастел. Шварц признал, что он использовал ChatGPT для своего исследования, хотя и оправдывался, что не подозревал о возможности генерации заведомо ложной информации. Примечательно, что Шварц требовал у платформы перепроверки источников, и та «утверждала», что они реальны.

Теперь самого адвоката ждет слушание, а также возможно штрафы и Санкции за подобное допущение. Сам случай рассматривается, как яркий пример того, что чат-бот может привести к проблемам при неправильном его использовании.

Ранее «LinDeal.com» рассказал о том, что Opera анонсирует Арию, новую функцию с искусственным интеллектом на базе ChatGPT от OpenAI. А также наша редакция сообщила, что ChatGPT: как оригинальное приложение справляется с конкуренцией поддельных копий в магазине Apple.