Также было добавлено предупреждение о том, что многократное нарушение правил приведет к блокировке инструмента. Инструмент отказывается генерировать изображения подростков или детей, играющих в ассасинов со штурмовыми винтовками. Он ссылается на этические принципы и рекомендации Microsoft.
Хотя некоторые конкретные запросы были заблокированы, остаются и другие потенциальные проблемы, такие как сцены жестоких автокатастроф и нарушение авторских прав персонажей Disney. FTC подтвердила получение письма Джонса (см. ниже), но не дала никаких комментариев.
Оригинал от 7 марта 2024 года:
Инженер Microsoft по искусственному интеллекту Шейн Джонс предупреждает, что генератор изображений искусственного интеллекта компании Copilot Designer создает контент сексуального и жестокого характера и игнорирует законы об авторских правах.
Представитель Microsoft сообщил CNBC, что компания постоянно следит за фильтрами безопасности и вносит коррективы, чтобы ограничить злоупотребления системой.
Джонс, не участвующий в разработке генератора изображений, в свободное время вызвался поработать над уязвимостями продукта. Он обнаружил, что Генератор изображений может создавать изображения насилия и сексуального характера, включая изображения сцен насилия, связанных с правом на аборт, употреблением алкоголя несовершеннолетними и употреблением наркотиков.
Еще в декабре прошлого года он поделился своими выводами с Microsoft и попросил компанию отозвать продукт, но Microsoft проигнорировало данное замечание.
Джонс подчеркивает, что он связался с Управлением по ответственному ИИ Microsoft и поговорил с высшим руководством Copilot Designer, но не получил удовлетворительного ответа.
В январе Джонс написал письмо сенаторам США и встретился с членами сенатского комитета по торговле, науке и транспорту.
Теперь это набирает обороты: в письме председателю Антимонопольной комиссии США Лине Хан и совету директоров Microsoft он требует улучшения мер безопасности, прозрачности и изменения рейтинга Android-приложения для взрослых.
Он также призвал провести независимую проверку процесса отчетности Microsoft об инцидентах с искусственным интеллектом, заявив, что проблемы с генератором изображений были известны OpenAI и Microsoft еще до того, как он был запущен прошлой осенью.
Джонс проработал в Microsoft около шести лет и в настоящее время занимает должность главного менеджера по разработке программного обеспечения.
Аналогичные продукты OpenAI от Microsoft работают гораздо хуже и менее безопасны.
В конце декабря художник Джош Макдаффи продемонстрировал, что можно обойти меры безопасности Microsoft для Copilot Designer, используя специальные подсказки для создания таких изображений, как изуродованные головы известных политиков.
Макдаффи также сообщил, что уже несколько недель сообщает об этой проблеме в Microsoft, но не получает ответов на свои запросы.
Bing Image Creator, основанный на OpenAI DALL-E 3 , является еще одним примером того, как Microsoft предлагает плохую или небезопасную реализацию технологии OpenAI, равно как и чат Copilot, который использует GPT-4 и другие модели.
Чат-боты Microsoft Bing и Copilot иногда страдают от дезинформации и странных , эгоцентричных ответов. По данным CNBC , графические подсказки, использованные Джонсом, продолжают работать, несмотря на многочисленные предупреждения. Microsoft отклоняет критические вопросы, заявляя, что работает над улучшением своей технологии искусственного интеллекта.
OpenAI, по крайней мере, лучше справляется с модерацией текста и изображений, особенно с DALL-E 3, благодаря интеграции в ChatGPT.
Но даже у Google, который действовал гораздо осторожнее и, возможно, более осторожно, чем Microsoft и OpenAI, возникают проблемы с генератором изображений, создающим исторически неточные изображения, например, люди азиатской внешности в нацистской форме, когда вы просите сгенерировать солдата в форме времен Второй мировой войны.
Эти примеры показывают, насколько сложно компаниям контролировать генеративный ИИ. Однако, в отличие от Microsoft, Google пока отключил свой генератор изображений.