OpenAI оказалась в центре громкого скандала после запуска Sora 2 – приложения для создания коротких видео в стиле TikTok. Представленный только на прошлой неделе сервис вызвал шквал критики из-за слабой модерации и высокого риска злоупотреблений.
Sora 2 позволяла пользователям создавать практически любые сцены-от обычных до откровенно провокационных. Уже в первые часы после релиза в Сети появились фейковые ролики с мультгероями и знаменитостями: Спанч Боб в нарколаборатории, Сэм Альтман, который жарит тело Пикачу, или полностью сгенерированные эпизоды “Южного парка”. Один из разработчиков, Габриэль Петерссон, создал вирусное «видео с камеры наблюдения», на котором Альтман якобы крадет товар в магазине. Инцидент снова поднял вопрос о доверии к контенту, созданному искусственным интеллектом.
Пользователи начали массово создавать реалистичные видео с покойными звездами — Майклом Джексоном, Тупаком Шакуром, Бобом Россом. Несмотря на заявления OpenAI о блокировании публичных лиц, компания сделала исключение для «исторических персонажей», что фактически позволило использовать образы знаменитостей, которые уже умерли. В первые дни модерация почти не работала-среди контента даже появлялись провокационные рекламные ролики, связанные с островом Джеффри Эпштейна.
Под давлением общественности и юристов OpenAI вынуждена была резко усилить фильтры. Пользователи начали жаловаться, что приложение стало “некреативным” и “более строгим, чем Северная Корея”. Сэм Альтман попытался снизить напряжение, объяснив, что компании недовольны использованием их интеллектуальной собственности в пользовательских видео, и предложил модель разделения доходов с правообладателями. Впрочем, он не уточнил, как именно будет работать эта схема и кто будет финансировать выплаты.
OpenAI переложила ответственность за контент на пользователей, требуя подтвердить наличие всех прав при загрузке материалов. Компания предупреждает, что за нарушение учетные записи будут блокировать без возврата средств. Также изменилась политика в отношении авторского права — теперь действует принцип «opt-in», то есть использование контента возможно только после согласия правообладателя.
Эксперты отмечают, что запуск Sora 2 превратился из эксперимента “двигайся быстро и ломай правила” в кризис, который OpenAI теперь вынуждена срочно гасить – от волны скандальных видео до потенциальных судебных исков.