Группа бывших и нынешних работников компаний, занимающихся искусственным интеллектом (ИИ), включая OpenAI и Google DeepMind, выразила обеспокоенность относительно рисков, связанных с этой технологией, в частности “вымирания человечества”. Об этом сообщает Reuters.
В открытом письме 11 бывших и нынешних сотрудников OpenAI, а также одного бывшего и одного нынешнего сотрудника Google DeepMind указано, что финансовые мотивы компаний, занимающихся ИИ, препятствуют эффективному контролю.
“Мы не верим, что специальные структуры корпоративного управления достаточны для изменения этой ситуации”, — говорится в письме.
Авторы письма предупреждают о рисках нерегулируемого ИИ, начиная от распространения дезинформации до потери контроля над независимыми системами ИИ и углубления существующего неравенства, что может привести к “вымиранию человечества”.
Исследователи обнаружили примеры генераторов изображений от компаний, включая OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с выборами, несмотря на политику против такого контента.
Компании, занимающиеся ИИ, имеют “слабые обязательства” по обмену информацией с правительствами о возможностях и ограничениях своих систем, говорится в письме, добавляя, что на эти фирмы нельзя полагаться, чтобы они добровольно делились этой информацией.
Это открытое письмо является очередным, который вызывает беспокойство относительно безопасности технологии генеративного ИИ, которая может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие.
Группа призвала компании, занимающиеся ИИ, способствовать процессу, при котором нынешние и бывшие сотрудники могут выражать беспокойство относительно рисков, и не применять соглашения о конфиденциальности, которые запрещают критику.
![]() ![]() ![]() ![]() |
Что скажете, Аноним?
08:40 21 июня
08:20 21 июня
08:00 21 июня
07:50 21 июня
07:40 21 июня
21:55 20 июня
21:35 20 июня
[23:55 28 апреля]
[20:15 02 апреля]
[11:55 10 февраля]
У президента появилась возможность переосмыслить цели войны и политический курс страны.
(c) Укррудпром — новости металлургии: цветная металлургия, черная металлургия, металлургия Украины
При цитировании и использовании материалов ссылка на www.ukrrudprom.ua обязательна. Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентства "Iнтерфакс-Україна", "Українськi Новини" в каком-либо виде строго запрещены
Сделано в miavia estudia.