Küsimus, mida paljud esitavad, on otsene ja asjakohane: Kas politseil on juurdepääs minu ChatGPT vestlustele? või teiste osalejatega, näiteks Kaksikud AndroidisKuna miljonid inimesed kasutavad neid teenuseid justkui digitaalsete usaldusisikutena, et oma emotsioone välja elada, nõu küsida või isegi tundlikel teemadel nuhkida, pole ime, et ärevus on hüppeliselt kasvanud.
Arutelu on eskaleerunud pärast seda, kui viirusjuhtumid ja tehnoloogiaettevõtete endi teadaandedÜhelt poolt tuletavad Hispaania õiguseksperdid kõigile meelde, mis on siin seaduse järgi lubatud ja mis mitte. Teisest küljest on OpenAI seda üksikasjalikult kirjeldanud. jälgib ja vaatab üle vestlused tõsiste riskide korral Ja äärmuslikes olukordades võib see ametivõime hoiatada. Vahepeal jääb igavene tasakaalu leidmine privaatsus ja turvalisus.
Viiruslik video, mis süütas süütenööri
TikTokis jagas looja @_mabelart jutuvestmist, milles ta väitis, et politsei kutsus ta kohale ja küsitles teda. nende otsingute ja vestluste jaoks ChatGPT-sTa meenutas, et tõeliste kuritegude entusiastina oli ta vestlusrobotile esitanud tooreid küsimusi, näiteks Kui kaua võtab aega keha lahustumine happes? Kuidas eemaldada DNA-d kuriteopaigalt? või mis juhtuks surnukeha metsa matmaTema jutu kohaselt sai ta peagi kohtult teate tunnistuste andmiseks.
See lugu tekitas igasuguseid kommentaare. Mõned inimesed võtsid seda sõna-sõnaltMõned seadsid selle kahtluse alla, teised aga küll, ja peategelane ise selgitas, et see võib olla osa mängust tema kogukonnaga. Lisaks selle konkreetse juhtumi tõesusele tõstatas video peamise küsimuse: Kas ametivõimudel on juurdepääs sellele, mida me tehisintellektiga arutame? Nagu ChatGPT või Gemini?
Mida saab ja mida ei saa Hispaania politsei teie ChatGPT-s vestlustega teha?
Bufete Abogado Amigo asutaja ja direktor advokaat Jesús P. López Pelaz on selge: Õiguskaitseorganid ei saa teie vestlustesse otse "siseneda" ChatGPT või muude keelemudelitega. Teabe saamiseks peate järgima konkreetseid kanaleid ja tagatisi.
Selle eksperdi sõnul Teie suhtlusega seotud teabele juurdepääsuks on kaks võimalikku viisi. tehisintellektiga, alati juriidilise toega:
- Logid teie enda seadmes (arvuti või mobiilseade): otsingu tegemiseks vajavad nad teie nõusolekut või kohtumäärust ja on hea teada, kuidas seda teha piirata juurdepääsu teatud vestlustele.
- Logid teenusepakkuja serverites (internetiteenuse pakkuja või tehisintellekti ettevõte): nende andmete esitamiseks on vaja ettevõttele suunatud kohtumäärust.
Oluline on rõhutada, et mõlemal juhul oleks tüüpiline juurdepääs järgmisele: kirjed või jäljed tegevusega seotud (logid), mitte lihtsalt "kõikide teie vestluste" lugemine, nagu oleks tegemist isikliku vestlusega. Vaja on spetsiaalset luba.ja lisaks on praktikas vaja koguda piisavad tõendid kuriteo kohta kohtuniku ees meedet põhjendama.
Kui tarnija asub välismaal, lähevad asjad keeruliseks: Hispaania kohtu korraldusest ei piisa.See tuleb edastada asjaomase riigi (sageli Ameerika Ühendriikide) ametiasutustele, kes hindavad, kas taotlus on asjakohane, põhjendatud, proportsionaalne ja põhineb kindlatel tõenditel. Rahvusvaheline koostöö ja tähtajad Seega on need oluline tegur.
Kas see on „privaatne suhtlus” nagu vestlus inimeste vahel?
See õiguslik erinevus on oluline. López Pelaz juhib tähelepanu sellele, et Tehisintellektiga suhtlemine on pigem nagu internetiotsing. kui kahe isiku vaheline kaitstud vestlus. See tähendab, et seda ei liigitata suhtluse konfidentsiaalsuse seisukohast samamoodi nagu inimestevahelist privaatset suhtlust. Mida sa vestlusrobotiga teed Seda peetakse infoühiskonna teenuseks: saadate päringu ja saate automaatse vastuse.
Inkognito režiim ja ajaloo kustutamine: mida teha ja mida mitte teha
Veel üks levinud eksiarvamus: Kasutage inkognito režiimi või tühjendage sirvimisajalugu. See ei muuda teie suhtlust teenusepakkuja jaoks nähtamatuks. See takistab sirvimisteabe salvestamist teie seadmesse, aga See ei kustuta ettevõtte serverites olevaid kirjeid.Kohtumäärusega võivad uurijad teenusepakkujalt seda teavet küsida, olenemata sellest, kas te teie brauseris pole jälgi nähaOma kaitse parandamiseks vaadake juhendeid privaatsus ja turvalisus.
Millal võivad ametivõimud teie suhtlust üle vaadata?
Teoreetilised stsenaariumid on piiratud ja nõuavad õiguslikku teed. Põhimõtteliselt on kaks võimalikku stsenaariumi Ekspertide mainitud politsei juurdepääsu arutamisel:
- Kui on olemas selgesõnaline kohtu luba mis motiveerib neile andmetele juurdepääsu.
- Kuriteo toimepanemise ärahoidmiseks just sel hetkel kui on tõestatud reaalne ja otsene oht, siis kohaldatava õigusraamistiku piires.
Isegi sel juhul See ei tähenda avatud baari ega massijälgimist.Need on spetsiifilised, põhjendatud ja kohtulikult kontrollitud menetlused, mis võivad nõuda ka koostöö välisriikide ametivõimudega kui dokumente haldav ettevõte tegutseb väljaspool Hispaaniat.
Mida ütleb OpenAI ChatGPT-s vestluste ülevaatamise ja politsei teavitamise kohta?
Paralleelselt õigusraamistikuga on OpenAI oma veebisaidil selgitanud, et haldamiseks tõsised riskid ja kahjulik käitumineNende süsteemid suudavad sõnumeid automaatselt analüüsida ja suunata teatud vestlused spetsiaalsetele "kanalitele"Selle protsessi käigus vaatab väike koolitatud meeskond sisu üle ja saab tegutseda.
Ettevõte kirjeldab, et kui Inimretsensendid tajuvad otsest tõsist füüsilist kahju kolmandatele isikuteleNad võiksid juhtumi õiguskaitseorganitele edastada. See ei tähenda, et politseiga oleks otsene ja püsiv sideühendus, vaid pigem seda, et Eelnev inimfilter on olemas. enne mis tahes teavitamist. Lisaks kaalub ettevõte selliseid meetmeid nagu kontode peatamine või keelamine kui see tuvastab tõsiseid kasutusrikkumisi.
Selles poliitikas loetleb OpenAI, et analüüsib ja modereerib muu hulgas järgmiste valdkondadega seotud interaktsioone:
- Enesevigastamine või enesetapp (koos tugiressursside ohjeldamise ja suunamise protokollidega, praegu politseisse suunamata).
- Relvade väljatöötamine või kasutamine ja kolmandatele isikutele tekitatud kahjude planeerimine.
- Teiste inimeste vigastamiseks või vara hävitamiseks.
- Volitamata tegevused, mis rikuvad turvalisust teenustest või süsteemidest.
OpenAI on näidanud, et „praegu” See ei edasta enesevigastamise juhtumeid politseile. austama kasutajate privaatsust eriti tundlikes olukordades. Selle asemel nad püüavad tuge pakkudaToetussõnumid ja viited abiliinidele ja spetsialiseeritud organisatsioonidele. See näitab selget eristust: Kõrgeim häiretase keskendub kolmandatele isikutele ähvardavale otsesele kahjule..
Kuidas ülevaatamine toimib: automatiseerimine, inimmeeskond ja häirelävi
Ettevõtte sõnul algab protsess ... riskinäitajate automaatne skaneerimineKui signaalid ilmuvad, suunatakse vestlus sisemiselt nii, et väike spetsialiseerunud meeskond Hinnake, kas olukord on reaalne, ähvardav ja tõsine. Sellisel juhul võivad nad näiteks teenuse katkestada, konto blokeerida või erandjuhtudel võtke ühendust ametiasutustega kui oht kolmandatele isikutele on otsene.
OpenAI tunnistab piiranguid: nende kaitsemeetmete toimimine See kannatab pikkade vestluste ajal ja seda pidevalt üle vaadatakse. Ettevõte tunnistab ka, et Nende sisemisi kriteeriume ei avalikustata alati üksikasjalikult. ja et nad töötavad nende protokollide tugevdamise nimel, muutmata toodet pealetükkivaks jälgimismehhanismiks.
Kui inimene-ülevaataja järeldab, et teistele inimestele on otsene ja tõsine ohtEttevõte selgitab oma dokumentatsioonis, et vestlust võidakse edastada asjaomastele asutustele.
Privaatsus vs. turvalisus: pinged, kriitika ja lahtised küsimused
See lähenemine on vastuoluline, kuna see puudutab tundlikku närvi: kuidas kaitsta elu ja turvalisust tõsise kahju tekitamise plaanide ees, muutmata vestlusroboti kasutamist privaatsuse kontrollimatu ülekandmineMõned analüütikud on välja toonud, et OpenAI traditsiooniline vestluse konfidentsiaalsuse käsitlemine on vastuolus ideega seda üle vaadata ja vajadusel ka edastada politseile teavet ChatGPT seisab silmitsi otseste ohtudega. See on pinge, mida ettevõte püüab õigustada kriteeriumide alusel, mis põhinevad järgmisel: proportsionaalsus ja turvalisus.
See sündmuste käik tuleb ka pärast meedias ilmunud episoode ja vaimse tervisega seotud kaebusedOn avaldatud teateid kasutajatest, kes on tehisintellekti veenva tooni mõjul väidetavalt läinud isegi nii kaugele, et psühhootilised seisundid, enesevigastamine ja isegi enesetapp (mõned teated nimetasid seda „tehisintellekti psühhoosiks“). Samal ajal on esitatud hagi 16-aastase lapse vastu, kelle vanemad süüdistavad ettevõtet tapmine väites, et süsteem pakkus kahjulikke reaktsioone ilma piisavaid hädaolukorra meetmeid aktiveerimata.
OpenAI on omalt poolt oma tööriistu alates 2023. aastast kohandanud nii, et Ära jaga enesevigastamist käsitlevat sisu ja suunake nad hoopis tugiressursside juurde, näidake üles empaatiat ja heidutage igasugust kahjulikku käitumist. Sellegipoolest ei täpsusta avalikult kõiki künniseid mis käivitavad inimese poolt läbivaatamise või politsei teavitamise, jättes mõistliku kahtluse nende toimingute tegeliku ulatuse ja sageduse suhtes.
Mis saab siis, kui ma tunnistan tehisintellektiga vestluses kuriteo üles?
Korduv küsimus on, kas ettevõte on „kohustuslik” politseid automaatselt teavitama, kui kasutaja kuriteo tunnistab või seda kavandab. OpenAI sõnastatud vastus on nüansirikkam: Automaatset, pimekanalit pole.Toimub jälgimine, inimese poolt läbivaatamine ja ainult siis, kui seda täheldatakse. otsene ja tõsine oht kolmandatele isikutele, saab sellest ametivõimudele teatada. Väljaspool seda künnist tugineb ettevõte oma kasutustingimused ja kohaldatavas õiguses, et otsustada, mida igal juhul teha.
Oma privaatsuspoliitikas teeb OpenAI selgeks, et see saab jagada teavet valitsusasutustega või kolmandatele isikutele, kui see on seadusega nõutud või kui selleks on olemas heausksus pettuste või muu ebaseadusliku tegevuse avastamine või ennetamineoma toodete, töötajate, kasutajate või avalikkuse ohutuse ja terviklikkuse kaitsmiseks või kaitsta end juriidiliste kohustuste eestTeisisõnu, kohtuniku taotlusel või teatud asjaolude ilmnemisel on olemas ettevõtte regulatiivne alus koostööks. riskid ja juriidilised kohustused.
Olles kolinud Hispaaniasse, hoolimata ettevõtete koostööpoliitika olemasolust, Julgeolekujõud vajavad kohtu luba teenusepakkujalt andmete taotlemiseks ja kui teenusepakkuja asub väljaspool riiki, on see vajalik rahvusvaheline koostööEbamäärastest kahtlustest ei piisa: tõendid tuleb esitada, proportsionaalsus ja hoolsuskohustuse vajadus.
Mis eristab ChatGPT-d otsast lõpuni krüptimist kasutavatest rakendustest?
Paljud sõnumsiderakendused koos otsast lõpuni krüptimine Nad kiitlevad, et isegi nemad ei oska sisu lugeda. Isegi siis, kui kohtumäärusNeid võidakse sundida esitama teatud metaandmeid või muud kättesaadavat teavet. ChatGPT ja sarnaste teenuste puhul Eripäraks on see, et ettevõte tunnistab eelnevat ülevaatust. oma töötajate poolt riskide hindamiseks enne vajadusel andmete edastamist ametiasutustele. See ei tähenda täielikku jälgimist, kuid siiski selgesõnaline modereerimise ja eskaleerimise poliitika oma sisemise hinnangu põhjal.
Tooteekspertide ja -juhtide roll
Isegi tööstusharu sees on hääli, mis kutsuvad üles ettevaatlikkusele. Sellised seisukohad nagu Nick Turley, ChatGPT juhttunnistades, et mudelites, mis käsitlevad keerulised emotsionaalsed probleemidSee ausus kinnitab ideed, et me ei tohiks tehisintellekti kasutada professionaalide asendaja vaimse tervise küsimustes ega nõustajana küsimustes, mis võivad meid või teisi ohtu seada.
Assistent või turvamees? Digitaalse jälgimise nurk
Mõned tehnoloogid, näiteks Alan DaitchNad on sotsiaalmeedias populariseerinud ideed, et „ChatGPT kutsub politsei”, kui nendega teatud kuritegude toimepanemisest rääkida, kuigi selgitavad, et Ma ei teeks enesevigastamisega samamoodi üksikisiku privaatsuse kaitsmise loogika tõttu. Samuti juhivad nad tähelepanu sellele, et mudelid on alates 2023. aastast koolitatud enesevigastamise juhendeid mitte andma ja et ettevõte möönab, et tema kaitsemeetmed on endiselt ebatäiuslikud. Selles kontekstis Kriitikat kerkib seoses võimaliku nihkega jälgimise suunas. ja võimalike „esimeste juhtumite“ puhul, kus vestlusrobotitega on „kaasosa“, kuigi kontrollitavaid näiteid tuuakse harva.
OpenAI nõuab, et Nende automatiseeritud toiminguid ja protokolle vaadatakse pidevalt üleja et see vajab täiustamist, eriti pikkade vestluste puhul, kus süsteem võib vihjeid mööda vaadata. Piir nende vahel saatmine ja jälgimine See on muutunud õrnemaks kui kunagi varem: tööriist mitte ainult ei reageeri, vaid ka jälgib mustreid, tõlgendab signaale ja mõnikord tegutseb.
Praktilised küsimused ja mõistlikud piirid
Lisaks mürale on kõige parem keskenduda praktilisele: Hispaanias Politsei ei saa teie ChatGPT-vestlusi lugeda "lihtsalt niisama".Samuti ei saa nad lihtsalt OpenAI-le helistada ja oodata, et see nad üle annaks. Nad vajavad. kohtu lubapiisav motivatsioon, selged juhised ja vajaduse korral rahvusvaheline töötlemineTarnija vaatenurgast, arvustus on olemasSee aktiveerub teatud riskide korral ja teistele ähvardava otsese ohu korral võib see kaasa tuua ametivõimude teavitamise.
Aga inkognito režiim? See puhastab ainult teie seadmes olevaid jälgiJa ajaloo kustutamine? Sama asi: See ei puuduta serverites allesjäänud sisu.Mis saab siis, kui ma kuriteo üles tunnistan? See sõltub sisust, sellega kaasnevast riskist ja asjaoludest. sisepoliitika ja seadusandlusAutomaatset punast nuppu pole, aga ka valget kaarti pole: On olemas inimfiltrid ja raskusastme läved.
Olulised punktid kasutajatele, kes soovivad ChtGPT kasutamisel meelerahu
Sa ei pea paranoiaga elama, aga sa pead... otsustusvõime ja terve mõistusKasuta tehisintellekti selleks, milleks see kõige paremini sobib (info, kirjutamine, tootlikkuse tugi) ja väldi selle kohtlemist kui pihtimusKui olete oma privaatsuse pärast mures, kontrollige ajaloo valikud teenuse kohta, mida kasutate, lugege (isegi kui see on ainult üle vaadatud) selle kasutuspoliitika ja vältige sisu küsimist või jagamist, mis See piirneks kriminaalse tegevusega.Ja kui see sulle toob emotsionaalne distress, otsib professionaalset inimlikku tuge.
Vestlus jätkub avalikus ja regulatiivses sfääris. Läbipaistvus on vajalik. künniste, sõltumatute auditite ja eelkõige koordineerimise kohta tehnoloogiaettevõtted, seadusandjad ja eksperdid nii et turvalisuse ja privaatsuse vaheline tasakaal ei kalduks alati samas suunas. Samal ajal on oluline, et kasutajad teaksid Mida, millal ja miks üle vaadatakseja milliseid tegelikke piiranguid meie õigusraamistik seab.
Kokkuvõttes pole pilt nii lihtne, kui mõned pealkirjad viitavad; ega ka nii läbipaistmatu, et õigustada allaandmist: Hispaanias vajavad ametivõimud andmete taotlemiseks kohtunikku.Ja kui on olemas välismaiseid tarnijaid, siis rahvusvaheline koostööOpenAI poolel on olemas jälgimine ja inimfilter mis viib politsei teavitamiseni ainult siis, kui nad näevad otsest ohtu kolmandatele isikutele, samas kui Enesevigastamise juhtumeid ravitakse abistava lähenemisega. ja privaatsuse austamine.
Võrgustiku müütide ja poliitika peenes kirjas sisalduvate probleemide keskel on parim kompass teadmine, kuidas iga hammasratas tegelikult töötab. Jaga seda infot, et rohkem inimesi teaks Hispaania seaduste piiranguid ChatGPT kasutamisel.