Из-за особенностей своей работы искусственный интеллект (ИИ) может буквально разрушить жизнь ни в чём не повинного человека, предупредил директор по продукту FABULA AI Родион Кадыров.
Функционирует при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций Российской ФедерацииИз-за особенностей своей работы искусственный интеллект может буквально разрушить жизнь ни в чём не повинного человека, предупредил директор по продукту FABULA AI Родион Кадыров.
Он привёл в пример недавний скандал с профессором права Джонатанном Терли, имя которого ChatGPT включила в список юристов, якобы замешанных в крайне щепетильной и незаконной истории. По словам эксперта, это — не просто единичный случай, а пример того, как современные языковые модели способны генерировать ложные сведения, грозящие реальными, даже фатальными проблемами. "Особенно тревожно то, что такие"галлюцинации" нейросетей являются нормальным явлением и возникают из-за особенностей их работы", —Такие казусы происходят, когда нейросеть так стремится дать ответ на запрос, что начинает придумывать факты. Причина тому — недостаточность точных данных. Например, если попросить ИИ назвать десять имён, связанных с каким-либо событием, она может взять с потолка семь личностей, даже если реально знает только о трёх. По словам Кадырова, такие"галлюцинации" вызываются несколькими обстоятельствами. Во-первых, нейросети обучаются на миллионах текстов из Сети, где могут встречаться ложные сведения. Также срабатывает"предсказательная" природа ИИ: модели пытаются предвидеть вероятные последовательности слов, и если данных не хватает, то они, бывает, просто придумывают недостающее, чтобы сформировать правдоподобный текст.отсутствие встроенной проверки фактов — нейросети не имеют механизма для проверки достоверности созданного текста. Они могут ссылаться на несуществующие статьи, события или людей, создавая иллюзию достоверности", —Причём подобные проблемы ограничиваются не только текстом. Так, в марте 2023 года мир облетели фото якобы ареста нынешнего кандидата в президенты США Дональда Трампа, который оказались работой нейросети. По мнению Кадырова, это показывает"разрушительный потенциал" таких технологий, то, что на данный момент не существует эффективных мер контроля со стороны социальных сетей и необходимость жёстких стандартов в сфере.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Врач Бурнацкая раскрыла опасность сквозняков для организмаИз-за частичного переохлаждения защитные силы организма могут не сработать, отметила эксперт.
Read more »
Политолог Кот объяснил внезапное желание Украины начать переговорыЭксперт отметил, что переговоры могут быть только о полной капитуляции Украины.
Read more »
Мечты сдуваются: пузырь искусственного интеллекта вот-вот лопнетМногие компании, разрабатывающие нейросети, по-прежнему не могут монетизировать свой продукт
Read more »
Топливный парадокс. Почему у нас много нефти и дорогой бензинЭксперт объяснил, при каких условиях цены на моторное топливо могут стабилизироваться.
Read more »
Торецкий гамбит. Киев жертвует солдатами, бросая их в «мясные» контратакиВоенный эксперт: «Сейчас о ситуации для ВСУ в районе Торецка, можно говорить, как о катастрофической».
Read more »
Эксперт рассказал, как нейросети могут разрушить репутацию любого россиянинаНа прошлой неделе профессор права Джонатан Терли столкнулся с поразительной ситуацией: нейросеть ChatGPT включила его имя в список юристов, якобы замешанных в крайне щепетильной и незаконной истории. При этом, как утверждал бот, такие данные были взяты из несуществующей...
Read more »