82-Летняя Селли Феррейра просматривала видео на YouTube, когда на экране появился врач и посоветовал ей употреблять фрукты, чтобы сохранить зрение. Этот совет показался ей вполне правильным.
Однако то, что она увидела, был не настоящий медицинский канал, а врача не существовало в реальности – его лицо и голос были созданы с помощью искусственного интеллекта (ИИ).
Хотя YouTube обозначил видео как созданное искусственным интеллектом, оно собрало почти 300 000 просмотров и сотни комментариев. И несмотря на наличие этой отметки, госпожа Феррейра рассказала BBC, что была убеждена, что слушает настоящего врача.
Это не редкий случай: расследование выявило 29 португаломовных каналов, использующих созданных искусственным интеллектом врачей. Суммарно эти видео набрали не менее 70 миллионов просмотров.
И этот контент имеет глобальный охват – BBC News Brasil обнаружила по меньшей мере 50 каналов YouTube, обучающих людей создавать видео с врачами на базе искусственного интеллекта на таких языках, как португальский, английский, хинди, испанский, французский, итальянский, польский, .
Эти создатели рассматривают старшую аудиторию как прибыльную нишу, считая, что у них больше свободного времени для просмотра видео и есть свободный доход для покупки продуктов, рекомендованных «врачами».
Один настоящий врач, чье изображение было использовано для создания подобных видео, предупреждает, что советы фальшивых врачей могут иметь серьезные последствия и «нанести смертельный вред пожилым людям».
Google, которому принадлежит YouTube, заявила, что к контенту, созданному искусственным интеллектом, применяются правила платформы, запрещающие медицинскую дезинформацию, которая может нанести серьезный ущерб в реальном мире.
Автор фото, Celi Ferreira
Формула таких видео проста: зритель видит человека в белом халате, вызывающем доверие, а спокойный синтезированный голос предупреждает, что привычный продукт, лекарства или повседневная привычка могут незаметно. После этого предлагается средство, которое якобы до сих пор оставалось без внимания.
В некоторых случаях такие врачи являются полной выдумкой. В других искусственный интеллект воспроизводит лицо, голос или личность реальных медиков без их согласия. В обоих случаях у зрителей может создаться впечатление, что специалист дает правильные медицинские советы.
В отчете бразильской некоммерческой журналистской организации CTRL+Z говорится о существовании 29 португаловных каналов, использующих сгенерированных искусственным интеллектом врачей. BBC News Brasil проанализировала эти каналы, чтобы выявить другие подобные ресурсы и общие признаки, в том числе похожие названия.
Мы нашли госпожу Феррейру после того, как собрали около 27 000 комментариев к видео на этих YouTube-каналах и применили процедуру отбора для обнаружения сообщений пользователей об изменениях в поведении.
В десятках комментариев пожилые люди рассказывают, что прислушивались к советам врачей с искусственным интеллектом: начинали лечение дома или прекращали прием ранее назначенных лекарств.
В одном из таких комментариев пользователь, утверждающий, что ему 85 лет, рассказывает, что заменил омепразол препарат для снижения кислотности желудочного сока на батат. В другом — 77-летняя женщина сообщает, что не посещала врача уже три года, и благодарит врача с искусственным интеллектом за совет по болезни Альцгеймера.
Автор фото, YouTube
В обучающих видео на YouTube, обнаруженных BBC News Brasil, авторы советуют создавать заголовки и сценарии, вызывающие страх и чувство неотложности, чтобы убедить зрителя, что ему угрожает безопасность.
Создатели контента зарабатывают как на просмотрах в YouTube, так и на продаже электронных книг и рекламируемых на их каналах товаров. Один из таких авторов из Бразилии Жеф Коимбра отметил, что создатели могут зарабатывать до 6 тыс. Долларов в месяц.
В другом видео он продемонстрировал, как использовать тревожный тон и «нагнетать ситуацию», приведя такой пример: «Перед сном будьте с этим осторожны. Следите, чтобы не умереть во сне».
После того как с ним связалась редакция BBC News Brasil, доступ к одному из видео для широкой публики был заблокирован.
В своем заявлении Коимбра отметил, что продемонстрированные им каналы, использующие ИИ, были лишь примерами, а не его собственными проектами. Он пояснил, что учит создавать с помощью ИИ информационный контент, но не такой, который должен заменить медицинских специалистов, и не намерен поощрять нарушения правил платформы или других стандартов.
«Не сочувствуют»
Мы обнаружили по меньшей мере пять YouTube-каналов, которые без разрешения использовали образ известного бразильского врача для распространения тревожных утверждений о здоровье и пропаганды методов естественного лечения, которые якобы могут заменить.
Элио Бразилейро, ведущий популярный YouTube-канал из почти 300 000 подписчиков, пожаловался на эти видео администрации платформы и подал заявление в полицию Сан-Паулу.
Кроме неправомерного использования его изображения, врача больше всего беспокоило то, что пожилые зрители могут прекратить прием лекарств, увидев, что эти советы якобы исходят от него.
«Те, кто это создает, лишены сострадания, — заявил он BBC News Brasil. — Попытки заработать деньги таким образом могут нанести смертельный вред пожилым людям».
Наибольший риск заключается в том, что пациенты принимают неэффективные средства, которые могут ухудшить состояние или даже отсрочить диагноз, отмечает Хайме Заладек Гил, гастроэнтеролог из больницы в Сан-Паулу.
«Нужно должное медицинское обследование и лучшая диагностическая сеть, а не просто видео, в котором утверждается, что что-то одно решит все ваши проблемы», — говорит он.
Автор фото, YouTube/Dr. Hélio – MedInformações
Бразильские юристы отмечают, что авторам контента, ложно выдающим себя за врачей, грозит уголовная ответственность.
Компания Google, владелец YouTube, заявила, что правила видеоплатформы распространяются и на контент, созданный искусственным интеллектом, и запрещают распространение медицинской дезинформации, способной нанести серьезный ущерб в реальной жизни.
В компании отметили, что специальные метки помогают зрителям понять, когда контент был изменен или сгенерирован.
После того как BBC News Brasil обратилась в компанию по результатам исследования CTRL+Z, YouTube удалил некоторые из самых больших каналов, охваченных этим анализом. В общей сложности они насчитывали около 41 миллиона просмотров.
Между тем Сели Феррейра говорит, что хочет научиться лучше распознавать то, что видит в Интернете.
«По моему возрасту, я достаточно умело пользуюсь компьютером, но все еще не умею отличить созданное искусственным интеллектом от реального», — говорит она.