Компания Google неожиданно отключила функцию «Что советуют люди» с рекомендациями по здоровью от своего ИИ‑сервиса. Причем сделано это было без официального объявления, пишет The Guardian.
Ранее пользователи могли задать прямо в поисковой строке вопрос по своему заболеванию. ИИ отвечал на него по типовому алгоритму — на основе сообщений людей с аналогичной болезнью на форумах или в соцсетях.
Но оказалось, что нейросеть часто дает неточные и даже опасные для здоровья пользователей советы. Это выяснило расследование The Guardian. Притом что такие рекомендации ежемесячно просматривали до 2 млрд человек.
И хотя каждый такой ИИ-обзор сопровождался дисклеймером с рекомендацией обратиться к врачу, эта информация подавалась в самом конце текста мелким светлым шрифтом.
Интересно, что представители компании, комментируя это решение, не признали неточность или опасность медицинских рекомендаций своего ИИ, а заявили, что функция упразднена в рамках «упрощения страницы результатов поиска».