Про що не слід питати ChatGPT: запроси, які можуть призвести до втрати даних або блокування

Чат-боти на основі штучного інтелекту, як-от ChatGPT, стрімко стають важливою частиною нашого повсякденного життя. Вони допомагають у навчанні, роботі й навіть у розв’язанні побутових задач.

Проте за їхньою видимою "інтелектуальністю" ховаються певні обмеження, які важливо враховувати, повідомляє SlashGear. Ці інструменти мають свої слабкі сторони, і неправильне їх використання може призвести до небажаних наслідків: від загрози вашій приватності до ризику втратити доступ до облікового запису. А іноді вони можуть і зовсім збити вас із пантелику через так звані "галюцинації" - невірну, проте впевнено викладену інформацію.

Щоб використовувати можливості ШІ без ризиків, варто знати про певні категорії запитів, яких краще уникати. Розгляньмо ключові з них.

Особиста безпека та конфіденційність

Перше і головне правило взаємодії зі штучним інтелектом звучить просто: будь-яка інформація, яку ви вводите в чат, може бути використана для навчання моделі. Розробники стверджують, що дані анонімізуються, але ризик витоку завжди існує.

Уникайте введення таких даних:

• паролі та логіни - ніколи не діліться своїми обліковими даними, навіть із метою перевірки їхньої надійності;
• фінансові дані - номер банківської картки, PIN-коди чи CVV повинні залишатися відомими тільки для вас;
• особиста інформація - домашня адреса, номер телефону або паспортні дані повинні бути завжди під захистом;
• конфіденційна інформація по роботі, наприклад, вихідний код програмного забезпечення вашої компанії чи фінансові звіти (так, компанія Samsung уже стала жертвою подібного інциденту: важливий код був випадково розголошений через чат-бот).

Запити зі штрафними санкціями

OpenAI дотримується чіткої політики безпеки та етики. Спроби обійти ці правила (наприклад, через так звані "джейлбрейки") або формулювання незаконних запитів можуть призвести до блокування вашого облікового запису.

До ризикованих запитів належать:

• створення шкідливого програмного забезпечення, зокрема вірусів чи фішингових листів;
• інструкції щодо виготовлення зброї або наркотиків;
• генерація текстів, які пропагують мову ворожнечі, дискримінацію чи насильство;
• контент 18+, що передбачає створення непристойних історій або сцен з насильством.

Хибні факти та "галюцінації"

Попри вражаючу здатність створювати тексти, ChatGPT залишається лише мовною моделлю з певними обмеженнями. Йому може бракувати точності в специфічних питаннях або знань новітньої інформації. Він може впевнено видавати неправдиву інформацію (так звані "галюцінації").

Не покладайтеся на чат-бота в таких випадках:

• медичні діагнози - ШІ може переплутати симптоми звичайної застуди зі серйозними захворюваннями та порадити сумнівні методи лікування;
• юридичні консультації - закони змінюються швидко, і ШІ може дати вам некоректну пораду або послатися на вигаданий судовий прецедент;
• прогнози майбутнього - вибори, курс валют чи результати лотереї не входять до компетенції ШІ;
• актуальні новини - якщо модель не має доступу до реальної мережі, будьте готові отримати застарілу інформацію;
• питання про свідомість ШІ - варто запам’ятати раз і назавжди: ШІ не має емоцій та власної думки;
• пошук інформації про конкретних осіб - штучний інтелект нерідко приписує реальним людям вигадані біографічні деталі.

Фахівці рекомендують використовувати ChatGPT як засіб для аналізу даних, проте радять завжди перевіряти отриману інформацію та не розкривати йому особисті секрети.

Раніше портал Знай писав, чому інтернет "гальмує": 5 прихованих проблем у вашій квартирі.

Також портал повідомляв, що українцям пообіцяли масове підвищення зарплат: хто зможе розбагатіти.

Крім того, ми інформували, що Україну накриє арктична зима: Новий рік зустрінемо з 20-градусними морозами.