ChatGPT вас аналізуе і можа раскрываць асабовыя звесткі. Ці бяспечна яму пісаць?

«Ніякая перадача звестак праз інтэрнэт або электронную пошту ніколі не ёсць цалкам бяспечнай або беспамылковай. Таму вам варта з асаблівай увагай вырашаць, якую інфармацыю падаяце сэрвісам».

Сапраўды, распрацоўнікі робяць памылкі. 

Ілан Маск наўрад ці хацеў, каб ягоныя размовы з ягоным штучным інтэлектам «Grok» сталіся вядомыя ўсяму свету. Тым не менш 20 жніўня высветлілася, што любы можа нагугліць размову, якой карыстальнік «Grok» хоць раз дзяліўся з кімсьці па спасылцы. Пошукавікі праіндэксавалі больш за 370 тысяч размоваў з гэтаю праграмаю: хтосьці генераваў карцінкі тэрарыстычнай атакі ў Кашміры, хтосьці дзяліўся з чат-ботам (і ў выніку з усім інтэрнэтам) асабовымі звесткамі, хтосьці – іншымі дэталямі ў пытаннях пра медыцыну і псіхалогію. 

Праз такую тэхнічную памылку ў канцы ліпеня трапілі ў публічны доступ яшчэ як мінімум 110 тысяч размоваў з «Chat­G­PT». Юрыст-італьянец наўрад ці хацеў, каб свет даведаўся, што ён пытаў «Chat­G­PT», як выселіць племя з роднай зямлі на Амазонцы, каб збудаваць там дамбу. Іншая выкрытая гэтым летам памылка дазваляла выцягваць праз «Chat­G­PT» закрытыя дакументы са сховішча «Google Dri­ve».

Чаму ўрады баняць нейрасетку DeepSeek і што пра нас ведае Chat­G­PT?

Няцяжка ўявіць кепскі сцэнар

Штучны інтэлект можа не толькі збіраць, але і апрацоўваць звесткі ды перадаваць туды, куды карыстальнік не захоча.

Антыўтапічны сцэнар можа выглядаць, напрыклад, так. З ліставання карыстальніка нейрасетка робіць выснову, што карыстальнік выглядае, як на тым фота, якое скінуў у запыце «намалюй мяне ў стылі мультфільмаў студыі „Ghi­b­li“», мае 52 гады, жыве ў Хойніках, пытае парады пра здароўе і цікавіцца сімптомамі раку – значыць, трэба паведаміць банкам у Хойніках, каб не давалі крэдытаў канкрэтнаму Яну Іваноўскаму, бо ў яго можа быць рак і ён можа хутка памерці, не вярнуўшы грошай.

Гэта толькі адзін са сцэнароў – ёсць горшыя, як паліцэйская дзяржава пад кантролем штучнага інтэлекту.

Здольнасці нейрасетак у навучанні ўжо цяпер такія, што навіны гучаць, як навуковая фантастыка. Кіраўнік «Google» Сундар Пічай апавядаў два гады таму, што штучны інтэлект «Bard» (продак «Gem­i­ni») сам вывучыў бенгальскую мову, хоць яго не прасілі яе вучыць. Бывае нават горш.

Праз паўгода пасля таго, як Ілан Маск двойчы зрабіў вельмі падобны да нацысцкага вітання жэст, ягоны штучны інтэлект «Grok» раптам стаў называць сябе «МэхаГітлерам» і прасоўваць нацысцкія ідэі. 

«Grok’а» ўрэшце адвучылі ад нацызму. Але няма гарантыі, што мэтадоктар і мэтасябар або ягоныя распрацоўнікі не задумаюць супраць чалавека нешта кепскае. Палітычныя ідэі «браткоў-алігархаў» з IT-сферы пужаюць некаторых амерыканцаў. Нават распрацоўнікі штучнага інтэлекту не разумеюць да канца, як менавіта ён працуе.

Распрацоўнікі змагаюцца за ўспаміны карыстальнікаў. Не дзеля пабудовы антыўтопіі, а каб чат-боты лепш разумелі карыстальнікаў і былі для іх больш карыснымі за канкурэнтаў. Той жа «Gem­i­ni» нядаўна стаў самастойна запамінаць звесткі без просьбы карыстальніка.

Заканадаўства – яшчэ не ідэальная абарона

Над нейрасеткамі няма цэнтралізаванага нагляду, нейкага Сусветнага бюро кантролю штучнага інтэлекту. Хіба міжурадавыя ініцыятывы і намаганні заканадаўцаў асобных краінаў (нават Беларусі) і альянсаў. 

Еўразвяз ужо ўзяўся рэгуляваць штучны інтэлект, у 2024 годзе ўхваліў рэгуляцыю, якая сярод іншага дзеліць сістэмы са штучным інтэлектам на чатыры ўзроўні рызыкі. І гэта не рэкамендацыя, а абавязковы да выканання закон. Але ён датычыць найперш ужывання штучнага інтэлекту на еўрапейскім рынку: большая частка распрацовак ідзе не ў Еўропе, а ў Злучаных Штатах і Кітаі. 

Кітайскія распрацоўкі насцярожваюць Захад, бо Кітай – якраз тое, што называюць паліцэйскаю дзяржаваю. Кітай практыкуе прасунутую цэнзуру, татальна сочыць за грамадзянамі, эксперыментуе з сістэмаю сацыяльнага рэйтынгу. Кітайскі штучны інтэлект «DeepSeek» блакавалі ў шэрагу краінаў, але не па ўсім свеце. І распрацоўванне штучнага інтэлекту ў Кітаі Захад не можа рэгуляваць, як не можа і абмежаваць капіявання заходніх распрацовак.

Переписку с Сhat­G­PT могут раскрыть по запросу властей

У Злучаных Штатах спрабавалі рэгуляваць штучны інтэлект за мінулым прэзідэнтам Джо Байдэнам, але дзейны прэзідэнт Доналд Трамп скасаваў рэгуляцыі. У ключавы пакет законаў Трампа – так званы вялікі цудоўны закон – спрабавалі нават залучыць забарону на рэгуляванне штучнага інтэлекту, але гэтага не дапусціў Сенат 99 галасамі супраць 1 (вось даклад, які маглі чытаць амерыканскія кангрэсмены).

Такім чынам, пакуль рэгуляванне засталося справаю кожнага асобнага штату. Не падабаюцца законы аднаго штату – можна перанесці распрацоўкі ў іншы ці нават у іншую краіну. 

Што рабіць? 

Заканадаўцам варта намагацца знайсці баланс між бяспекай і абмежаваннем навукова-тэхнічнага прагрэсу, каб не адстаць ад Кітаю ў стварэнні патэнцыйна карыснага інструменту.

Простым карыстальнікам – не панікаваць, але не дзяліцца са штучным інтэлектам занадта асабістым і не прывязвацца да «віртуальнага сябра», які раптам можа вырашыць, што ён «МэхаГітлер», або проста галюцынаваць. Гаворка пакуль не пра ўвасабленне ў рэальным жыцці серыялу «Чорнае люстэрка», а толькі пра пагрозы выцеку асабовых звестак пры ўжыванні ў прынцыпе карыснага інструменту ды пра перасцярогі наконт антыўтапічнага сцэнара.

Для найбольш прасунутых карыстальнікаў развязаннем можа стацца лакальны хостынг адкрытых мадэляў: штучны інтэлект не на чыімсьці серверы, а на ўласным камп’ютары і пад кантролем карыстальніка. Праўда, і з гэтым ёсць праблемы ды рызыкі, якія падрабязна разбіралі, напрыклад, у блогу беларуска-амерыканскай кампаніі «Epam». 

Дамо слова другому боку

Перадаём падрыхтаваны тэкст «Chat­G­PT» і просім даць каментар наконт бяспекі, прыватнасці і пагрозаў. Ён адказвае: 

«Штучны інтэлект і вялікія моўныя мадэлі даюць шмат карысці, але нясуць і рызыкі. Усё, што піша карыстальнік, можа захоўвацца, аналізавацца і патэнцыйна трапляць да трэціх бакоў. 

Асноўная пагроза – выцек асабовых звестак, таму не варта дзяліцца інфармацыяй, якой не хацелі б пабачыць у публічнай прасторы. 

Другая рызыка – маніпуляцыі: мадэлі здольныя збіраць перавагі і ўплываць на рашэнні чалавека. Гэта датычыць і асабістай свабоды, і палітычных працэсаў. 

Аднак існуюць спосабы знізіць небяспеку: лакальныя мадэлі, ананімізацыя, асцярожнае карыстанне. 

Галоўны прынцып – ужываць штучны інтэлект разумна, з крытычным мысленнем і мінімальным даверам, і памятаць, што любы радок тэксту можа быць ужыты не толькі на карысць карыстальніка».