Обман с использованием искусственного интеллекта все чаще пронизывает нашу онлайн-жизнь. Известные случаи включают измененные изображения протестующих или видео, которые распространяют дезинформацию, например для влияния на украинцев относительно службы в армии. Такие материалы незаметно появляются в социальных сетях и набирают тысячи просмотров, что делает проблему особенно сложной.
Microsoft предложила план проверки подлинности онлайн-контента. Ее исследователи оценили различные методы документирования цифровых манипуляций, включая водяные знаки, цифровые подписи и отслеживание происхождения файлов, и предложили стандарты, которые могут применять социальные платформы и компании, работающие с искусственным интеллектом. Эти инструменты не определяют правду, но показывают, был ли контент изменен.
Эксперты говорят, что внедрение таких методов значительно усложнит распространение обмана, хотя полностью проблему это не решает. Люди часто подвергаются воздействию даже известно ложного контента, но большинство хочет знать правду. Некоторые платформы уже начали маркировать искусственно созданный контент, однако лишь частично, и полная реализация стандартов зависит от бизнес-моделей компаний и регуляторных требований.
Законодательные инициативы, такие как закон Калифорнии о прозрачности ИИ и правила ЕС, обяжут компании раскрывать происхождение контента. Microsoft стремится участвовать в формировании таких правил, в то же время признавая, что поспешная или непоследовательная маркировка может подорвать доверие. Пока инструменты проверки контента совершенствуются, важно, чтобы их применяли осторожно и последовательно, учитывая сложность современной цифровой дезинформации.