Ученые из лаборатории исследований искусственного интеллекта (ИИ) T-Bank AI Research разработали метод, который позволяет определить, в какой момент ИИ начинает давать неправильные или нежелательные ответы, и скорректировать их.Как рассказали в «Т-Технологиях», результаты исследования доступны в открытых источниках.
Ученые из лаборатории исследований искусственного интеллекта T-Bank AI Research разработали метод, который позволяет определить, в какой момент ИИ начинает давать неправильные или нежелательные ответы, и скорректировать их.
Как рассказали в «Т-Технологиях», результаты исследования доступны в открытых источниках. Также их огласят на международной конференции по обучению представлениям , которая пройдет в Сингапуре с 24 по 28 апреля. «Наша задача не только сделать модели лучше, но и понять, как они работают изнутри. Представьте умного голосового помощника, который рекомендует фильмы. И вдруг он начинает выдавать недостоверную или даже грубую информацию. Сейчас изменить его поведение – сложная задача, ведь существующие методы не дают нам четкого понимания, где именно возникла проблема. Наши исследования в области интерпретируемости ИИ направлены на то, чтобы такие сбои можно было заметить и быстро исправить их без дорогостоящего переобучения модели», — рассказал Никита Балаганский, руководитель научной группы LLM Foundations, T-Bank AI Research. Метод SAE Match направлен на то, чтобы сделать работу ИИ более прозрачной и понятной: человек сможет отслеживать, как модель обрабатывает информацию и почему она принимает те или иные решения. Это позволяет, в частности, контролировать процесс генерации текста, а не просто накладывать внешние ограничения или обучать модель на новых данных, что требует больших вычислительных ресурсов. Ученые считают, что данное научное открытие сыграет важную роль при внедрении ИИ в критически важные сферы, такие как медицина, финансы и безопасность.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
В России создали новый метод измерения пульса по видео в общественных местахВ отделе перспективных исследований компании «Криптонит» (входит в «ИКС Холдинг») разработали новый метод измерения пульса по видеозаписи в общественных местах. Метод поможет выявить лиц с признаками инфекционного заболевания или сильного волнения, рассказали...
Read more »
Эксперт Смольников: новый сборник данных поможет молодежи осознать весь ужас ВОВНовый статистический сборник 'Цифры Победы' важен для понимания масштаба трагедии Великой Отечественной войны современным поколениям, выросшим после ее окончания, заявил в эфире 'Радио России' заместитель генерального директора Центра стратегических разработок Дмитрий Смольников.
Read more »
На СВО испытали дрон «Овод» с искусственным интеллектомНТВ: российские военные начали испытывать в зоне СВО дроны «Овод» с ИИ
Read more »
Ученые создали новый метод поиска жизни на спутниках ЮпитераACS: УФ-излучение раскрыло историю формирования подземных пространств
Read more »
Российские ученые нашли способ снизить напряженность в социальных сетяхРоссийские ученые создали уникальный алгоритм, способный оптимизировать рекомендации по установлению дружеских и деловых связей в социальных сетях, где эти советы используются для расширения круга общения.
Read more »
«Быстрее определять безопасные пути выхода»: российские учёные создали систему для эвакуации при пожарахРоссийские учёные создали цифровую систему, которая поможет пожарным спасать людей из задымлённых и горящих зданий. Программа обрабатывает данные, которые поступают со смартфонов пользователей, оказавшихся внутри охваченных пожаром помещений, и определяет их расположение, а также близость к аварийным выходам.
Read more »