Нейросети все чаще становятся для россиян первым источником советов по самым чувствительным вопросам — от здоровья до личных финансов. Ответ приходит мгновенно, звучит убедительно и не требует записи на прием.
Однако за удобством скрываются серьезные риски, о которых пользователи задумываются далеко не всегда. Маркетолог-стратег, специалист по внедрению ИИ в бизнес-процессы Татьяна Егорова рассказала «Петербург.Эксперту», что видит в нынешней ситуации парадокс: доверие к нейросетям растет быстрее, чем их надежность. Она объяснила, в чем главные опасности и как пользоваться ИИ в таких вопросах без вреда для себя.
Парадокс доверия
Татьяна Егорова приводит данные опроса сервиса «Анкетолог», согласно которым 71% пользователей нейросетей уже спрашивали у них о здоровье и 89% доверяют этим ответам. При этом всегда перепроверяют информацию лишь 38% опрошенных, а 63% ни разу не рассказали врачу о такой консультации. С финансами, по словам эксперта, картина похожая: 58% россиян хотя бы раз просили у ИИ финансовый совет, однако почти половина из них, 46%, остались недовольны результатом.
«Доверие к нейросетям растет быстрее, чем их надежность в этих темах», — отметила Татьяна Егорова.
Причина, по ее мнению, понятна: ИИ отвечает уверенно, грамотно и мгновенно.
«Но уверенный тон — не то же самое, что верный ответ», — подчеркнула эксперт.
Три системных ограничения
В медицине, праве и финансах у нейросетей, как отметила Татьяна Егорова, есть три системных ограничения. Первое — ошибки, которые выдаются за факты: модель может придумать несуществующую норму закона или дозировку лекарства и никак не предупредить об этом. Второе — устаревшие данные. Законодательство меняется постоянно, и нет гарантии, что нейросеть учитывает все последние изменения. Третье — отсутствие ответственности: за ошибку врача или юриста отвечает специалист, а за ошибку нейросети — никто.
Есть и четвертый риск, о котором, по словам эксперта, задумываются реже, — утечка личных данных. Загружая в чат результаты анализов, договор или банковскую выписку, человек передает чувствительную информацию сервису, о том, как она хранится, он почти ничего не знает.
До и после, но не вместо
Вместе с тем Татьяна Егорова не считает ИИ бесполезным в этих сферах. Важно лишь правильно определить его роль.
«Правильная роль нейросети — работать „до« и „после« специалиста, а не „вместо« него», — пояснила она.
До визита к специалисту нейросеть может помочь разобраться в терминах, понять, к какому врачу обратиться, и составить список вопросов. После — простыми словами объяснить заключение или помочь упорядочить документы.
По словам эксперта, тот же принцип действует и в бизнесе: при внедрении ИИ в чувствительные процессы окончательное решение всегда должно оставаться за человеком.
«Нейросеть ускоряет подготовку, но подпись под решением ставит специалист», — резюмировала Татьяна Егорова.
