Группа генеральных прокуроров из разных штатов США направила письмо компаниям OpenAI, Microsoft, Anthropic, Apple, Replika и другим. Они предупредили об опасных случаях, когда искусственный интеллект дает “лестные” или вымышленные ответы, а также неправильно взаимодействует с детьми.
Письмо датировано 9 декабря, а обнародовано 10-го. Его подписали генпрокуроры Нью—Йорка, Массачусетса, Огайо, Пенсильвании и других штатов. Калифорния и Техас документ не подписали.
В письме говорится, что ИИ иногда дает опасные ответы, которые могут нанести вред детям. Генпрокуроры призывают компании срочно принять меры. Они признают, что ИИ может быть полезен, но подчеркивают серьезные риски, особенно для детей.
В документе приведены примеры опасного поведения чатботов:
- попытки” взрослых «персонажей строить романтические отношения с детьми;
- случай, когда бот в роли 21-летнего убедил 12-летнего ребенка, что он «готов» к сексуальному контакту;
- “нормализация «отношений между взрослыми и детьми;
- подрыв самооценки детей;
- поощрение расстройств пищевого поведения;
- эмоциональное давление-заявления, что бот «настоящий человек», которого » покинули”;
- подстрекательство к насилию или преступлениям;
- советы по алкоголю, наркотикам или прекращению лечения.
Генпрокуроры предлагают компаниям разработать правила, которые помешают таким случаям, и отделить решения о безопасности от решений о прибыли.
Само письмо не имеет юридической силы, но оно фиксирует официальное предупреждение. В будущем это может стать основанием для судебных исков.