Расследование Би-би-си: как созданные ИИ «врачи» на YouTube превратились в глобальный бизнес

Хотя YouTube пометил видео как созданное с помощью ИИ, оно набрало почти 300 тысяч просмотров и сотни комментариев. Феррейра рассказала Би-би-си, что, несмотря на маркировку, была уверена: перед ней настоящий врач.

Это не единичный случай: в ходе расследования было выявлено 29 португалоязычных каналов, использующих созданных с помощью ИИ «врачей» и набравших в общей сложности не менее 70 млн просмотров.

Подобный контент распространяется по всему миру. Бразильская служба Би-би-си обнаружила как минимум 50 YouTube-каналов с инструкциями о том, как создавать ролики с ИИ-врачами на разных языках, включая португальский, английский, хинди, испанский, французский, итальянский, польский, немецкий и турецкий.

Создатели таких каналов считают пожилую аудиторию прибыльной нишей: по их мнению, у людей старшего возраста больше свободного времени для просмотра видео и достаточно денег для покупки рекламируемых товаров.

Один из настоящих врачей, чье изображение было использовано без разрешения, предупреждает, что советы фальшивых медиков могут иметь серьезные последствия и «нанести пожилым людям смертельный вред».

Владеющая видеохостингом YouTube компания Google заявила, что правила платформы распространяются и на контент, созданный с помощью ИИ; они запрещают медицинскую дезинформацию, способную причинить серьезный вред в реальной жизни.

Формула таких видео проста: вызывающий доверие человек в белом халате спокойным синтезированным голосом предупреждает, что привычный продукт, лекарство или повседневная привычка могут незаметно угрожать здоровью пожилых людей. Затем зрителям предлагают якобы незаслуженно забытое средство.

В одних случаях «врачи» полностью вымышлены. В других ИИ без согласия настоящих медиков копирует их внешность, голос или личность. И в том, и в другом случае у зрителей может возникнуть впечатление, что медицинские рекомендации им дает квалифицированный специалист.

29 португалоязычных каналов, использующих созданных ИИ «врачей», были обнаружены в докладе бразильской некоммерческой журналистской организации CTRL+Z. Бразильская служба Би-би-си изучила эти каналы, чтобы найти другие подобные ресурсы и выявить общие закономерности, включая похожие заголовки.

На Феррейру мы [здесь и далее — Бразильская служба Би-би-си] вышли после того, как собрали около 27 тысяч комментариев под видео на этих YouTube-каналах и с помощью специального скрининга выявили сообщения пользователей о том, как подобные ролики повлияли на их поведение.

В десятках комментариев люди, называющие себя пожилыми, рассказывают, что следовали советам ИИ-врачей: начинали лечиться домашними средствами или прекращали принимать ранее назначенные препараты.

В одном из комментариев 85-летний пользователь утверждает, что заменил омепразол — препарат, угнетающий секрецию желудочной кислоты, — сладким картофелем. В другом 77-летняя женщина пишет, что уже три года не посещала врача, и благодарит ИИ-врача за советы, касающиеся болезни Альцгеймера.

В найденных Бразильской службой Би-би-си инструкциях на YouTube авторы советуют придумывать заголовки и сценарии, которые вызывают страх и создают ощущение неотложности, чтобы зритель поверил, что его здоровью угрожает непосредственная опасность.

Создатели такого контента зарабатывают как на просмотрах в YouTube, так и на продаже электронных книг и товаров, рекламируемых на этих каналах. Один из авторов обучающих роликов из Бразилии, Жеф Коимбра, утверждал, что создатели подобных каналов могут зарабатывать до 30 тысяч реалов ($5 816) в месяц.

В другом видео он продемонстрировал, как использовать тревожный тон и призывать аудиторию «действовать решительно», приведя такой пример: «Перед сном будьте осторожны с этим. Следите за тем, чтобы не умереть во сне».

После того как Би-би-си связалась с Коимброй, публичный доступ к одному из этих видео был закрыт.

В своем заявлении Коимбра сообщил, что показанные им ИИ-каналы были лишь примерами и не принадлежали ему лично. По его словам, он обучает созданию информационного контента с помощью ИИ, а не материалов, призванных заменить медицинских специалистов, и не намеревался поощрять нарушение правил платформы или других норм.

«Никакого сочувствия»

Мы обнаружили как минимум пять YouTube-каналов, которые без разрешения использовали изображение известного бразильского врача для продвижения алармистских утверждений о здоровье и натуральных средствах, якобы способных заменить назначенные лекарства.

Элиу Бразилейру, который много лет ведет собственный канал с почти 300 тысячами подписчиков, сообщил об этих видео YouTube и подал заявление в полицию Сан-Паулу.

Помимо неправомерного использования его изображения, Бразилейру больше всего беспокоит то, что пожилые люди могут перестать принимать назначенные врачом препараты, поверив советам, которые якобы исходят от него.

«У тех, кто это создает, нет никакого сочувствия, — сказал он Би-би-си. — Попытки заработать таким способом могут привести к смертельным последствиям для пожилых людей».

По словам гастроэнтеролога из клиники имени Альберта Эйнштейна в Сан-Паулу Жайме Заладека Жила, главная опасность заключается в том, что пациенты могут принимать неэффективные средства, которые способны либо ухудшить их состояние, либо привести к задержке постановки диагноза.

«Необходимо полноценное медицинское обследование и более качественная диагностика, а не просто видео, утверждающее, что какое-то средство решит все ваши проблемы», — говорит он.

Бразильские юристы заявляют, что создателям контента, которые ложно выдают себя за врачей, может грозить уголовное преследование.

В Google отметили, что специальные маркировки помогают зрителям понять, когда контент был изменен или создан искусственным интеллектом.

После того как мы обратились в компанию по поводу исследования CTRL+Z, YouTube удалил несколько крупнейших каналов из выборки, видеозаписи которых в совокупности набрали около 41 млн просмотров.

Тем временем Сели Феррейра говорит, что хочет научиться лучше распознавать контент, который видит в интернете.

«Для своего возраста я считаю, что довольно хорошо разбираюсь в компьютерах, но все равно не умею определять, где ИИ, а где реальность», — говорит она.