OpenAI ограничила создание видео с образом Мартина Лютера Кинга с помощью Sora
Компания OpenAI объявила в четверг о временной приостановке возможности создавать видео, напоминающие покойного борца за гражданские права Мартина Лютера Кинга, с помощью своей модели искусственного интеллекта Sora. По заявлению компании, эта мера принята по просьбе наследников доктора Кинга после того, как некоторые пользователи Sora создали «неуважительные изображения» его образа.
«Хотя существует сильное стремление к свободе слова при изображении исторических личностей, OpenAI считает, что публичные фигуры и их семьи должны иметь контроль над тем, как используется их облик», — говорится в сообщении OpenAI в X из официального аккаунта новостной комнаты.
Ограничение появилось через несколько недель после запуска социальной видеоплатформы Sora, которая позволяет пользователям создавать реалистичные видео с использованием ИИ, имитирующие исторических личностей, их друзей и самих пользователей, которые хотят, чтобы их облик был воссоздан на платформе. Запуск вызвал оживлённые общественные дебаты о рисках, связанных с видео, созданными с помощью ИИ, и о том, какие ограничения должны вводить платформы в отношении этой технологии.
Бернис Кинг, дочь доктора Кинга, на прошлой неделе опубликовала в Instagram пост с просьбой прекратить присылать ей ИИ-видео, имитирующие её отца. Она присоединилась к дочери Робина Уильямса, которая также попросила пользователей Sora прекратить создавать ИИ-видео своего отца.
The Washington Post сообщила на этой неделе, что пользователи Sora создали видео с ИИ, на которых доктор Кинг издаёт обезьяньи звуки и борется с другим борцом за гражданские права — Малькольмом Икс. В приложении Sora OpenAI легко найти грубые видео, имитирующие других исторических личностей, включая художника Боба Росса, певицу Уитни Хьюстон и бывшего президента Джона Ф. Кеннеди.
Лицензиар имущества доктора Кинга не сразу ответил на запрос TechCrunch о комментарии.
Помимо вопросов представления людей в Sora, запуск также вызвал шквал вопросов о том, как платформы социальных сетей должны обрабатывать видео с ИИ, изображающие объекты, защищённые авторским правом. В приложении Sora также много видео с изображениями мультфильмов, таких как «Губка Боб», «Южный парк» и «Покемон».
OpenAI ввела и другие ограничения для Sora с момента запуска. Ранее в октябре компания заявила, что планирует предоставить правообладателям более детальный контроль над типами видео с ИИ, которые могут быть созданы с использованием их облика. Возможно, это стало ответом на первоначальную реакцию Голливуда на Sora, которая была не очень положительной.
В то время как OpenAI вводит ограничения для Sora, компания, похоже, придерживается более пассивного подхода к модерации контента в ChatGPT. На этой неделе OpenAI объявила, что в ближайшие месяцы позволит взрослым пользователям вести «эротические» беседы с ChatGPT.
Похоже, что с Sora OpenAI пытается справиться с проблемами, связанными с созданием видео с помощью ИИ. Некоторые исследователи OpenAI публично обсуждали вопросы, связанные с первой социальной медиаплатформой компании на базе ИИ, в дни после её запуска, и о том, как такой продукт вписывается в миссию некоммерческой организации. Генеральный директор OpenAI Сэм Альтман сказал, что в день запуска Sora компания испытывала «опасения».
Ник Терли, руководитель ChatGPT, ранее в этом месяце сказал мне, что лучший способ научить мир новой технологии — это выпустить её в мир. Он сказал, что компания узнала это на примере ChatGPT и теперь узнаёт на примере Sora. Похоже, компания также узнаёт что-то о том, как распространять эту технологию.