У Meta визнали «галюцинації» штучного інтелекту після замаху на Трампа

Укрінформ

Корпорація Meta, яка об'єднує Facebook, Instagram і WhatsApp, визнала, що її чат-бот Meta AI помилково заперечував факт замаху на кандидата в президенти США Дональда Трампа.

Про це повідомляє DW, передає Укрінформ.

Після замаху на Дональда Трампа користувачі почали запитувати чат-бот про стрілянину, однак той відповідав довгими довідками про минуле і заперечував, що на експрезидента США скоювали замах. Крім того, фотографію Трампа після замаху з піднятим догори кулаком у Facebook та Instagram позначали як підроблену.

Віцепрезидент Facebook із глобальної політики Джоель Каплан пояснив це «галюцинаціями» ШІ і запевнив, що в цій помилці не було «злого наміру».

Читайте також: США попередили Китай щодо зловживань штучним інтелектом

Як пояснив Каплан, чат-бот обробляє величезний масив даних, накопичених за багато років, і тому йому важко працювати з терміновими новинами. Тому керівництво Meta спочатку взагалі заборонило чат-боту говорити про замах на Трампа. Потім заборону було знято, але чат-бот деякий час продовжував мовчати або заперечувати факт стрілянини.

«У невеликій кількості випадків Meta AI продовжував давати неправильні відповіді, іноді стверджуючи, що події не було, – над цим ми вже зараз працюємо. Ці типи відповідей називаються галюцинаціями, це проблема всієї галузі, ми бачимо її в усіх системах ШІ-генерації. Це проблема того, як ШІ обробляє події реального часу, які перебувають у розвитку, і яка зберігається. Як і всі інші системи ШІ-генерації, моделі можуть видавати неточні або недоречні дані», – заявив він.

Проблеми з фотографією Трампа, на якій він одразу після замаху позує з піднятим догори кулаком, Каплан пояснив тим, що в інтернеті зловмисники запустили фейковий знімок, домалювавши посмішки співробітникам Секретної служби США. Meta позначила його як підроблений. Але ШІ став блокувати всі схожі кадри, зокрема й оригінальний.

Читайте також: У США попередили про хвилю російської дезінформації перед виборами

Як повідомляв Укрінформ, 13 липня під час виборчого мітингу Трампа у Батлері (штат Пенсильванія) сталася стрілянина. Трамп зазнав незначного поранення — куля зачепила вухо. Стрільця ліквідував снайпер Секретної служби.

Безкоштовний помічник зі штучним інтелектом Meta AI від компанії Meta Platforms запрацював на платформах соціальних мереж WhatsApp, Instagram, Facebook і Messenger.

Світ