В отсутствие обязательных правил, независимого надзора и четких ограничений технология может стать неуправляемой, заявил Верховный комиссар, выступая в Совете по правам человека в Женеве.
Тюрк допустил возможность того, что системы искусственного интеллекта станут настолько мощными, что разработчики больше не смогут их контролировать.
«ИИ, который вырывается за пределы испытательной среды или шантажирует разработчиков, чтобы не дать им отключить себя, – это слишком могущественный ИИ, – заявил он. – Сегодня я призываю приложить все возможные усилия для создания железных гарантий безопасности и защищенности ИИ, пока не стало слишком поздно».
Контроль в руках «горстки мужчин»
Тюрк призвал страны, где размещены технологии искусственного интеллекта, а также государства, задействованные в цепочках их поставок, совместно работать над установлением четких границ распростанения новой технологии.
«Нам необходимы независимая проверка и гораздо более тесное сотрудничество в сфере безопасности внутри отрасли», – сказал он.
Однако, по словам Верховного комиссара, проблема выходит далеко за рамки технической безопасности. «Горстка мужчин обладает практически неограниченной властью над ИИ», – заявил он, указав на растущую концентрацию технологической мощи и огромные объемы данных, которые собираются и обрабатываются.
Он также подчеркнул необходимость развивать технологии, которые «служат человечеству, а не наоборот». Он призвал обратить внимание на вопросы занятости, демократии и защиты окружающей среды, отметил Тюрк, настаивая на том, что права человека должны оставаться главным ориентиром.
«Ужас» перед автономными системами вооружения
Верховный комиссар также выразил обеспокоенность применением ИИ в военных действиях, особенно разработкой оружия, способного принимать решения о лишении человека жизни без вмешательства людей.
По словам Тюрка, его «привели в ужас» сообщения о том, что Россия якобы применила полностью автономные беспилотники, которые в прошлом месяце убили трех украинцев. Сообщается, что Украина также проводила испытания подобного оружия.
«Я присоединяюсь к призывам срочно запретить оружие, способное лишать людей жизни без участия человека», – заявил он членам Совета.
Тюрк также предупредил, что война России против Украины, которая продолжается уже пятый год, приводит ко все большему числу жертв среди гражданского населения и разрушению критически важной энергетической инфраструктуры. Сообщения о погибших и раненых поступают и из России.
Более 60 войн
Верховный комиссар распространил выразил также глубокую обеспокоенность ростом числа вооруженных конфликтов и ослаблением международного права в мире в целом.
Сегодня на планете происходит более 60 конфликтов – такого уровня не наблюдалось со времени окончания Второй мировой войны.
Тюрк встревожен возобновлением боевых действий между Соединенными Штатами и Ираном и их более широкими геополитическими и экономическими последствиями. По его словам, продолжают поступать сообщения о жертвах среди мирного населения, в том числе на свадьбе в иранской провинции Хормозган.
Газа и оккупированный Западный берег
Говоря о Ближнем Востоке, Тюрк осудил продолжающиеся израильские удары по Газе и ограничения на доставку гуманитарной помощи, а также планы насильственного перемещения палестинцев и дегуманизирующую риторику некоторых высокопоставленных израильских должностных лиц.
Он также осудил казни и пытки, которые, согласно сообщениям, совершают вооруженные группировки, связанные с ХАМАС.
Что касается оккупированного Западного берега, Тюрк призвал принять меры против аннексии, расширения израильских поселений и поставок оружия, которые могут способствовать нарушениям международного права.
«Международное сообщество должно удвоить усилия по достижению прочного мира, при котором Палестина и Израиль будут жить бок о бок, с достоинством и обладая равными правами», – заявил Тюрк, отметив, что слова осуждения не могут отразить всего масштаба боли и страданий, выпавших на долю мирного населения.