Компании ИИ обязаны доказывать безопасность технологии по требованию некоммерческих организаций

Поступили новости о том, что некоммерческие организации направили политические предложения правительственным агентствам США, чтобы ограничить влияние крупных компаний по ИИ

Искусственный интеллект (ИИ) сопровождается положительными и отрицательными ожиданиями со стороны пользователей. Особое внимание уделяется тому, что ИИ способен создавать риски для общества, в т. ч. дискриминацию, нарушение конфиденциальности и ложную информацию. На этом фоне ряд некоммерческих организаций предложили рамки для регулирования ИИ, которые они назвали Zero Trust AI Governance. Новость сообщил The Verge 15 августа 2023 года.

Среди наименований, которые вошли в список некоммерческих организаций, отмечаются Accountable Tech, AI Now и EPIC. Их Zero Trust AI Governance основывается на трех принципах:

применять существующие законы;
создавать ясные и легко реализуемые правила;
возлагать ответственность на компании по доказательству того, что их системы ИИ не причиняют вреда на каждом этапе жизненного цикла технологии.

Некоммерческие организации также предложили запретить определенные виды использования ИИ, такие как распознавание эмоций, лиц для массового наблюдения в общественных местах, полностью автоматизированное управление персоналом. Кроме того, они потребовали от правительства предотвратить участие крупных технологических компаний в коммерческих услугах ИИ.

Некоммерческие организации не только представили свои политические предложения, но и обратились к конгрессу США с письмом, в котором призвали принять неотложные меры по регулированию ИИ, указав на то, что крупные технологические компании, такие как Google, Facebook, Amazon и Microsoft, имеют чрезмерное влияние на разработку и распространение технологии.

Отмечено и то, что перечисленные компании оказывают влияние и на формирование общественного мнения и политического диалога в соответствующей теме. Они выразили поддержку в отношении законопроекта Algorithmic Accountability Act, который бы требовал от компаний проводить оценку рисков и воздействия своих систем ИИ на права человека, безопасность и конкуренцию.

Ранее «LinDeal.com» рассказал о том, что китайский Стартап Fourier Intelligence планирует создать серийного робота-гуманоида с ИИ. А также наша редакция сообщила, что Alibaba представила открытую модель ИИ, конкурирующую с Llama 2 от Meta.