Муртазин: применение ИИ неизбежно приведет к негативным последствиям
Эксперт в области телекоммуникационных систем Эльдар Муртазин в интервью ИС "Вести" заявил, что негативное использование нейросетей невозможно избежать. По его словам, ни разработчики, ни правительства, работающие с ИИ, не заинтересованы в эффективной системе сдержек. Об этом сообщает сайт Вести.
Муртазин подчеркнул, что нейросеть является технологией двойного назначения, способной предоставить советы по совершению преступлений, если запрос будет сформулирован неявно.
"Можно задать задачу на подсчет инженерных сооружений, а можно рассчитать сопротивление материалов для создания оружия. Программа не знает, как будет использоваться результат. Человек понимает контекст, а нейросеть – нет. Мы будем наблюдать негативное использование нейросетей, от этого не уйти", — отметил он.
Эксперт добавил, что для предотвращения негативного использования нейросетей производителям следует улучшать систему сдержек. Однако высокая конкуренция, как между американскими нейросетями Open-i и Anthropic, делает такую систему невыгодной.
"Конкуренция привела обе компании к ситуации, когда система сдержек не работает. Им нужны деньги и контракты, развитие требует затрат, это гонка со временем. Поэтому обе компании работают с государством и закрывают глаза на некоторые способы применения своих алгоритмов. Это ирония рынка, они ничем не отличаются", — добавил Муртазин.
Он также отметил, что нейросети допускают ошибки в трети случаев, и решения должны перепроверяться человеком. Например, если ИИ доверить выбор военной цели, ошибка может привести к множеству жертв.
"В Америке люди стоят дорого, поэтому их почти нет, и огромный объем информации обрабатывается малым числом людей, которые не могут его проверить. Ситуация не самая лучшая и не может улучшиться. Гонка за будущим продолжается, и сопутствующий ущерб, как говорят военные, приемлем для многих государств. Но когда этот ущерб касается человеческих жизней, это сотни жизней, потерянных из-за ошибок компьютера", — уточнил он.
Ранее компания Anthropic ввела полный запрет на использование своих сервисов на базе нейросети Claude для компаний из России, Китая и ряда других стран.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
Читайте также:
Самарцы могут остаться без корпоратива: где еще остались места для новогодних гулянийКуда сходить в Самаре, если всё надоело: готовый гид для нескучных выходных
Читайте также:
https://www.vinchelli.ru/catalog/mezhkomnatnye-razdvizhnye-dveri-na-zakaz/razdvizhnye-dveri-modern/



