Новые проверки AWS Automated Reasoning цели искоренить галлюцинации ИИ
- AWS представляет собой проходные проверки рассуждений
- Новый инструмент будет способствовать сокращению галлюцинации ИИ, сверяя ответы с данными клиентов
- Клиентам будут представлены ответы II, чтобы проверить их точность.
поскольку предприятия все чаще используют инструменты II для своих ключевых процессов и Галлюцинация становится все более серьезной проблемой.
Amazon Web Services (AWS) Amazon Web Services (AWS) Amazon Web Services (AWS) Amazon Web Services (AWS) галлюцинациями.
Представленная на мероприятии AWS re:Invent 2024 новая система проверок Automated Reasoning цель сокращения количества защита ошибок, вызванных галлюцинациями, которые могут привести к рискам безопасность или потери для предприятий.
Конец галлюцинациям ИИ?
На самом простом уровне галлюцинации, когда система или служба искусственного интеллекта ведет себя некорректно или становится ненадежным, часто из-за проблем с ошибками в данных, на которому она обучалась.
Описанные компании как «первая и внутренняя генеративная защита ИИ, которая помогает AWS Automated Reasoning попытаться решить Эта проблема связана с перекрестной проверкой ответов, сгенерированной моделью, с информацией, предоставленным клиентом. Отправьте обратно модель для проверки.
Ограждения из коренных пород Амазонки надежность модели II, а также пытаются увидеть, как модель пришла к такому ответу, и если она сочтет его ошибочным, сравнит с информацией клиента.
Затем он представляет свой ответ вместе с первоначальным ответом модели, что позволяет клиентам увидеть возможный разрыв между правдой и ответом и соответствующим образом скорректировать своя модель.
AWS предлагает пример поставщика медицинских услуг, который использует этот инструмент, чтобы дать возможность дать точные ответы по запросам клиентов в соответствии с политикой конкретных стран.
«Со временем, по мере того, как генеративный ИИ преобразует все больше компаний и клиентов опыт, вывод станет основной частью каждого приложения», — сказал доктор Свами Сивасубраманьян, вице-президент по ИИи, данные AWS.
«С запуском этих новых возможностей мы внедряем инновации в удивительные клиенты, чтобы решить из основных проблем, таких как галлюцинация и затраты, с которыми сталкиваются все направления при переносе технологий генеративного ИИ в производство».
