$140 млрд убытков принес неправильный ответ чат-бота Google
Широко разрекламированный новый инструмент чат-бота с искусственным интеллектом от Google Bard, который еще не был выпущен для широкой публики, дал неточный ответ пользователю на этой неделе.
В демоверсии, которую Google разместил в Твиттере , пользователь спрашивает Барда: "О каких новых открытиях космического телескопа Джеймса Уэбба я могу рассказать своему 9-летнему ребенку?" Бард отвечает рядом пунктов, в том числе следующим: "JWST сделал первые снимки планеты за пределами нашей Солнечной системы".
Однако, согласно NASA, первое изображение экзопланеты — планету за пределами нашей Солнечной системы — было фактически получено Большим Телескопом Европейской южной обсерватории почти два десятилетия назад, в 2004 году.
Акции Alphabet, материнской компании Google, упали на 8%, что эквивалентно примерно 140 миллиардам долларов убытков, на дневных торгах в среду после того, как агентство Reuters впервые сообщило о неточном ответе Bard.
Ошибка чат-бота выдвигает на первый план проблему для Google, поскольку он стремится интегрировать ту же технологию искусственного интеллекта, которая лежит в основе поддерживаемого Microsoft ChatGPT, в свою основную поисковую систему.
Пытаясь идти в ногу с тем, что, по мнению некоторых, может быть радикальным изменением, вызванным диалоговым ИИ принципов поиска информации в Интернете, Google теперь рискует разрушить репутацию своей поисковой системы как источника надежной информации.
Как и ChatGPT, Bard построен на большой языковой модели, которая обучается на обширных массивах данных в Интернете, чтобы генерировать убедительные ответы на запросы пользователей. Эксперты давно предупреждают, что эти инструменты могут распространять недостоверную информацию.
В явной попытке решить эту проблему Google ранее заявлял, что Bard сначала будет открыт для "доверенных тестировщиков" на этой неделе, а в ближайшие недели планируется сделать его доступным для общественности.
"Это подчеркивает важность тщательного процесса тестирования, который мы начинаем на этой неделе с нашей программой Trusted Tester", — сказал представитель Google в заявлении о фактической ошибке.
Google представил Bard ранее на этой неделе как часть очевидной попытки конкурировать с вирусным успехом ChatGPT, который использовался для создания эссе, текстов песен и ответов на вопросы, которые раньше можно было искать в Google. Сообщается, что стремительный рост популярности ChatGPT побудил руководство Google объявить "красный код" для своего поискового продукта.
В среду Google провела мероприятие в своем парижском офисе, на котором технический гигант подробно рассказал о планах использования технологии искусственного интеллекта, чтобы радикально изменить то, как люди ищут информацию в Интернете. Мероприятие Google состоялось через день после того, как конкурент Microsoft анонсировал обновленную версию Bing, основанную на более продвинутой версии ИИ, используемой ChatGPT.
В презентации руководитель Google рассказал о планах использовать эту технологию, чтобы предлагать более сложные и развернутые ответы на запросы.
Руководитель сказал, что технология искусственного интеллекта проложит путь к "следующему рубежу информационных продуктов".