Цитаты новостей превращаются в телефонную игру
Особо следует отметить, что проблема возникает независимо от того, блокирует ли публикация веб-сканеры OpenAI или имеет с OpenAI официальное лицензионное соглашение на свой контент. В ходе исследования было проверено 200 цитат из 20 публикаций, и ChatGPT попросили предоставить их источники. Результаты повсюду.
Иногда чат-боты делают это правильно. В других случаях он приписывает цитату неправильному источнику или просто выдумывает источник. Партнеры OpenAI, в том числе The Wall Street Journal, The Atlantic и издания Axel Springer и Meredith, временами показывали лучшие результаты, но без какой-либо стабильности.
Ставка на точность при запросе новостей в ChatGPT — это не то, чего хотят OpenAI или ее партнеры. Сделки рассматриваются как способ OpenAI поддержать журналистику и одновременно повысить точность ChatGPT. Когда ChatGPT обратился к Politico, опубликованному Акселем Спрингером, за цитатами, человек, говорящий, часто был не тем человеком, которого цитировал чат-бот.
Новости ИИ будут потеряны
Краткий ответ на этот вопрос — метод поиска и обработки информации ChatGPT. Веб-сканер, который ChatGPT использует для доступа к данным, работает безупречно, но модель искусственного интеллекта, лежащая в основе ChatGPT, по-прежнему допускает ошибки и создает галлюцинации. Получение разрешения на доступ к контенту не меняет этого основного факта.
Конечно, если публикация блокирует веб-сканеры, ChatGPT может превратиться из журналиста в волка в овечьей шкуре. Такие издания, как The New York Times, которые используют файлы robots.txt для блокировки доступа ChatGPT к своему контенту, будут тормозить работу ИИ и фальсифицировать источники, вместо того, чтобы заявлять, что он не может предоставить вам ответы. Более трети ответов в отчете соответствуют этому описанию. Это не просто небольшое исправление кода. Хуже того, если ChatGPT не сможет получить доступ к законным источникам, он обратится к местам, где тот же контент публикуется без разрешения, увековечивая плагиат.
В конечном счете, искажение цитат ИИ оказывает не такое большое влияние, как на журналистику и инструменты ИИ, такие как ChatGPT. OpenAI хочет, чтобы поиск ChatGPT был местом, куда люди находят быстрые и надежные ответы, которые правильно связаны и цитируются. Если ему не удастся достичь своих целей, это подорвет доверие к ИИ и журналистике, которую он обобщает. Для партнеров OpenAI доходы от их лицензионных соглашений могут не стоить потери трафика, вызванной ненадежными ссылками и цитированием.
Поэтому, хотя поиск ChatGPT может быть полезен для многих кампаний, обязательно проверьте эти ссылки, если вы хотите убедиться, что ИИ не генерирует фантомные ответы из Интернета.
