Искусственный интеллект против человека? За рубежом и в РФ ищут способ противостоять ИИ

Новый исследовательский центр, который будет изучать связанные с развитием искусственного интеллекта (ИИ) потенциальные риски, появится в Японии, решение приняло правительство страны. Центр создадут на базе Национального института информатики в Токио, работающего под эгидой Минобразования Японии, в апреле 2024 года. Работа центра будет направлена в первую очередь на предотвращение использования ИИ-технологий для распространения ложной информации и нарушения авторских прав. Об этом пишет газета Yomiuri.

Искусственный интеллект в ближайшем будущем не выйдет из-под контроля человека, сообщает «РЕН ТВ» со ссылкой на заявление министра военно-воздушных сил Соединенных Штатов Фрэнка Кендалла.

По его словам, данную технологию невозможно остановить, так как ИИ встроен во все продукты и используется там, где он обеспечивает конкурентное преимущество. Кендалл отметил, что правительство не должно мешать этому процессу.

При этом он высказался за то, чтобы США проверили безопасность ИИ и оценили его риски прежде, чем использовать в военной сфере.

Премьер-министр России Михаил Мишустин поручил Минцифры до 19 марта проработать способы выявления недостоверных данных, созданных с помощью технологий искусственного интеллекта (ИИ). По мнению экспертов, подобные дипфейки могут нести в себе огромные риски, в том числе для органов власти, пишут «Известия». Ашманов назвал эту задачу технически сложной.

Разработчики систем генерации контента научились обходить антифейковые системы, поэтому подобные алгоритмы сегодня ненадежны, заявил гендиректор компании «Нейросети Ашманова» Станислав Ашманов в беседе с НСН.

«Речь идет о контенте, который генерируется нейросетями: аудиозаписи, видео, изображения, тексты. Визуально отличить сгенерированный контент иногда можно, иногда нет, иногда контент очень качественный, человек отличить не может…Задача важная, но довольно сложная с точки зрения технической реализации. Я хороших примеров решения этих задач в мире не встречал. Есть подходы, когда принудительно разработчиков заставляют внедрить скрытую пометку внутри контента. Такие примеры в мире есть, крупные корпорации, которые создают сервисы для генерации речи, внедряют звуковые пометки. Если мы говорим про злоумышленников, они никаких пометок делать не будут», — резюмировал собеседник НСН.

Искусственный интеллект (ИИ) не представляет проблемы для творческих людей, он не умеет создавать, а лишь учится на существующих объектах, рассказал председатель совета Фонда развития цифровой экономики, основатель LiveInternet Герман Клименко в интервью НСН.

«Мы реагируем на спрос. Знаю проект, когда люди взяли всю музыку, которая есть, загрузили все хиты по годам, и задали задачу сгенерировать хиты в стиле 80-х годов… Это не четыре-пять дней работы, но в целом – задача техническая. Мое мнение: это не убивает музыкальную историю. Если какую-то тему еще не создали, то ИИ ее и не создаст, он учится на существующих объектах. Он не может ничего придумать – не сделает лучше, но и не сделает хуже. В определенной степени он начинает повторять… То есть для творческих людей ИИ не представляет проблемы. Проблемы начинаются, условно, у бильд-редакторов, которым нужно под статью подогнать картинку. И в музыке то же самое», — сказал Клименко.

Ранее искусственный интеллект создал музыку городов, основываясь на истории и произведениях композиторов Российского национального музея музыки, а также на данных Государственной корпорации развития РФ о качестве жизни. Послушать звучание городов слушайгорода.рф, напоминает Telegram-канал «Радиоточка НСН».