OpenAI создает команду для контроля суперинтеллекта

Понятие суперинтеллекта характеризует ИИ, который способен решать задачи, недоступные для человеческого разума. Ученые считают, что такой ИИ появится в ближайшем будущем, оказав определенное влияние на человечество. На этом фоне OpenAI, объявила о создании специальной команды, которая будет заниматься проблемой суперинтеллекта. Новость сообщил Tech Crunch 6 июля 2023 года.

Команда OpenAI Superintelligence Team (OST) обязуется работать в тесном сотрудничестве с другими проектами организации, включая GPT-4, DALL-E и Codex. Совместными усилиями они займутся глубоким обучением и исследованием нейронных сетей для создания мощных ИИ, способных генерировать текст, изображения, код и другие виды данных. OST должен изучать, как эти ИИ эволюционируют к суперинтеллекту, как предотвратить или минимизировать потенциальные риски, связанные с этим процессом.

OST обязуется сотрудничать с другими организациями и экспертами, занимающимися соответствующими вопросами, в. ч. Future of Humanity Institute, Center for Human-Compatible AI, Partnership on AI и пр. Это требуется для того, чтобы развивать общие принципы и стандарты, регулирующие разработку и использование суперинтеллекта в интересах человечества. OST будет проводить образовательные и просветительские мероприятия, чтобы повысить осведомленность общественности о возможностях и вызовах, связанных с суперинтеллектом.

Основатель и главный научный сотрудник OpenAI Джош Тененбаум (Josh Tenenbaum) заявил, что OST станет важным шагом в решении проблем суперинтеллекта, потому что последний может быть как лучшим другом человечества, так и его худшим врагом. Он призвал другие организации присоединиться к усилиям по созданию безопасного и полезного суперинтеллекта.

Ранее «LinDeal.com» рассказал о том, что OpenAI обвиняется в краже личных данных миллионов людей для обучения ChatGPT. А также наша редакция сообщила, что OpenAI представляет новые функции и снижает цены на GPT-3.5-turbo и GPT-4.