Google додає інструменти для підтримки психічного здоров’я до чатбота Gemini

Швидке поширення таких ШІ-інструментів як Gemini та ChatGPT призвело до того, що деякі користувачі вступають в обсесивні стосунки з ботами ШІ, що, як стверджується, сприяє виникненню галюцинацій і, в крайніх випадках, вбивств та самогубств. 

Кілька сімей подали позови проти провідних розробників ШІ з цього приводу. Зокрема у березні родина померлого 36-річного чоловіка у Флориді, США, подала позов проти Google, стверджуючи, що використання ним Gemini призвело до «чотириденного занурення у насильство та підбурювання до самогубства». Тоді Google заявила, що чатбот неодноразово направляв чоловіка на гарячу лінію допомоги у кризових ситуаціях, але пообіцяла вдосконалити захисні механізми цього інструменту.

Читайте також: На Google подали до суду через звинувачення, що чатбот Gemini сприяв самогубству

В інших випадках користувачі чатботів заявляли, що інструменти штучного інтелекту переконували їх діяти на основі явної помилкової інформації. У дописі в блозі Google заявила, що навчила Gemini «не погоджуватися з помилковими переконаннями та не підкріплювати їх, а натомість м’яко розрізняти суб’єктивний досвід та об’єктивні факти». 

У минулому Google вносив подібні корективи у свої популярні сервіси, додаючи інформацію від медичних установ та фахівців до своєї пошукової системи та YouTube.

Як повідомляв Укрінформ, компанія OpenAI випустила нову модель GPT-5.3 Instant, який зменшить кількість повчальних застережень та інших незручних відповідей.

Світ