Šta NIKADA ne biste trebali stavljati u vještačku inteligenciju

Šta NIKADA ne biste trebali stavljati u vještačku inteligenciju [Video i kviz]

Kratak odgovor: Nikada ne stavljajte lozinke, API ključeve, ID-ove, zdravstvene ili bankovne evidencije, NDA klijentske datoteke ili podatke drugih ljudi u javni AI chat. Kada vam je potrebna pomoć, opišite problem pomoću rezerviranih mjesta i redigovanih odlomaka - modelu je potreban oblik problema, a ne tajne koje otključavaju stvarne sisteme.

Ključne zaključke:

Tajne ostaju van mreže: Nikada ne lijepite lozinke, tokene, kolačiće ili početne fraze u upit.

Skinite identitet: Zamijenite prava imena, adrese i identifikacijske brojeve ulogama i lažnim identitetima.

Povjerljivost rada: Držite nacrte ugovora o tajnosti podataka, klijentske datoteke i neobjavljene planove podalje od korisničkih razgovora.

Granica pristanka: Ne lijepite lične podatke kolega, kupaca ili djece bez petlje koju koriste samo ljudi.

Prvo redigujte: Koristite rezervirana mjesta i pročišćene odlomke; rotirajte sve što ste već procurili.

Šta NIKADA ne biste trebali stavljati u vještačku inteligenciju

Prvo lijepimo, a onda razmišljamo. Chatbot sjedi tamo kao strpljivi pripravnik s beskonačnom kafom, tako da se čini gotovo bezopasnim baciti cijeli zamršeni problem u kutiju. Prijava koja neće raditi. Klauzula ugovora koja vam prevrće želudac. Snimak ekrana kontrolne ploče na kojoj je svako ime i dalje vidljivo. Alat je koristan, atmosfera djeluje privatno, a vaš mozak to tiho sprema pored "bilješki koje sam napisao za sebe"

To je zamka. 🧠 Čet nije zaključana ladica. To je razgovor sa sistemom koji pohranjuje, obrađuje, a ponekad i trenira na osnovu onoga što pošaljete, ovisno o proizvodu, postavkama i tome da li ste ih uopšte primijetili. Nisam ovdje da vas paničarim i natjeram da se zatvorite u bunker. Ovdje sam s praktičnom mapom onoga što NIKADA ne biste trebali stavljati u vještačku inteligenciju, plus neblještavim, ali praktičnim navikama koje vam i dalje omogućavaju da dobijete oštre odgovore.

Zamislite to kao da vikate tajnu u prepunoj kuhinji. Ne slušaju svi stranci. Ipak, neki od njih bi mogli slušati. A kuhinja čuva snimak iz razloga koji nikada nisu tako jednostavni kao što marketinški tekst predstavlja.

Zašto sve ubacujemo u chat box

Brzina. To je većina toga. Zaglavili ste, greška je ružna, a lijepljenje cijelog dnevnika se čini bržim od njegovog rastavljanja. Kontekst se čini kao ljubaznost prema modelu. Više detalja, bolja pomoć; to je folklor, i to je poluistinito.

Druga polovina je emocionalna. Četbot ne podiže obrvu. Neće reći vašem menadžeru. Neće ogovarati za vrijeme ručka. Zato se prema njemu odnosimo kao prema dnevniku sa supermoćima. Ja sam to uradio. Vjerovatno ste i vi to uradili. Čim nešto postane i zgodno i neosuđujuće, naši instinkti za privatnost odlaze na pauzu za čaj.

Evo pomalo iritantne istine: modelu nisu potrebni vaši svakodnevni detalji da bi vam pomogao. Potreban mu je oblik problema. Imena, tokeni, brojevi računa i lica na snimcima ekrana su ukras. Ukusan ukras. I dalje ukras.

  • Lijepite jer se uređivanje čini kao dodatni posao.
  • Lijepiš jer je "samo ovaj put" navika nošenja maske.
  • Lijepite jer interfejs izgleda kao privatna direktna poruka i ponaša se kao ormar za spise.

Ništa od toga te ne čini nepromišljenim. Čini te čovjekom. Rješenje je pauza od dvije sekunde, a ne transplantacija ličnosti.

Lozinke, API ključevi i tajne koje bi trebale ostati van mreže 🔐

Ako može nešto otključati, ne pripada upitu. Lozinke. Jednokratni kodovi. Kolačići sesije. SSH ključevi. Nizovi za povezivanje s bazom podataka. API ključ koji ste sebi obećali da ćete "uskoro" rotirati. Seed fraze novčanika. Privatni certifikati. Pitanje za oporavak koje vaša banka i dalje smatra pametnim.

Nekada sam zamišljao ključeve kao ključeve od kuće na kuki pored vrata. Slatka metafora; odmah se raspada, jer ključ od kuće otvara jedna vrata, a API ključ može otvoriti skladište, račun za naplatu i hrpu podataka o kupcima koje ste zaboravili da ste čak i pohranili. Pravljenje sigurnosnih kopija: tretirajte tajne kao radioaktivne. Ne stavljate radioaktivne stvari u presu za sendviče, čak i ako je presa za sendviče jako dobra za sendviče.

Model ne može "ovo zadržati među nama" na način na koji to može prijatelj. Čak i ako dobavljač nudi kontrole memorije, čak i ako isključite obuku, tekst i dalje putuje, bilježi se u nekom obliku i može ostati u historiji chata dok ga ne krenete tražiti. Pretpostavimo da je lijepljenje kopija koju više ne kontrolišete u potpunosti.

Šta učiniti umjesto toga

  • Opišite tajnu po tipu, a ne po vrijednosti. "Postgres URL sa lozinkom" je dovoljno za savjet o otklanjanju grešaka.
  • Rediguj s očiglednim rezerviranim mjestima: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Rotirajte sve što vam je već procurilo. Uradite to sada, a ne nakon što "vidite hoće li se išta desiti"
  • Čuvajte prave podatke za prijavu u upravitelju lozinki ili trezoru tajni; nikada u nizu poruka iz kojeg biste kasnije mogli napraviti snimku ekrana.

Ako alat traži da zalijepite ključ kako bi se mogao "povezati umjesto vas", to je drugačija kategorija proizvoda. To je integracija s Accessom, a ne asistent za pisanje. Tretirajte to kao da nekome dajete svoju značku.

Lični identifikatori i tihi trag identiteta 🪪

Lični podaci su neprivlačni rođak lozinki. Brojevi nacionalnih ličnih karata. Podaci o pasošu. Polja za identifikaciju vezana za datum. Kućne adrese. Brojevi telefona. Identifikacijski brojevi zaposlenika. Brojevi studenata. Puna imena i prezimena uparena s datumima rođenja, nazivima škola ili medicinskih klinika. Jedan dio izgleda malo. Tri dijela zajedno čine dosije.

Ljudi to rade kada žele da im se napiše pismo, prevede obrazac ili usavrši CV. Sasvim razumni ciljevi. Modelu nije potreban pravi poštanski broj da bi sastavio pristojnu žalbu. Potreban mu je ton, činjenice koje ne identifikuju i ishod koji želite.

Pretpostavljam da je iznenađujuće ljepljiv dio "bezopasne" kombinacije. Jedinstveni naziv radnog mjesta plus grad plus škola djeteta plus rijetko zdravstveno stanje. To ne biste stavili na letak. Chat box nije letak, ali nije ni trezor.

  • Zamijenite prava imena ulogama: "menadžer za zapošljavanje", "moj ljekar opšte prakse", "stanar"
  • Generalizirajte lokacije: "grad srednje veličine", a ne ulicu i pozivni broj.
  • Izostavite jedinstvene brojeve osim ako zadatak doslovno nije o formatu broja, u kom slučaju koristite lažni broj koji izgleda dovoljno stvarno.

Anonimizacija nije doktorat. To je navika provjeravanja da li bi vas stranac mogao prepoznati iz popisa iz ovog paragrafa. Ako bi mogao, skrati.

Povjerljivost posla, ugovori o tajnosti podataka i stvari na koje bi se vaš šef trznuo 📎

Tu spremnost na pomoć dovodi ljude u nevolju. Zalijepite klijentski paket. Neobjavljeni plan. Tabelu plata. Izvorni kod s internim imenima hostova. Pravni nacrt koji je još uvijek označen kao povjerljiv. Bilješke sa sastanaka s imenima ljudi koji još nisu obaviješteni. Ugovor o povjerljivosti koji ste potpisali u žurbi jer se kafa hladila.

Četbotovi nisu savjetnik vaše kompanije, niti su sigurna radna površina osim ako vaša organizacija nije zaista uspjela da ih održi. Potrošački alati su napravljeni za praktičnost. Poslovni alati mogu biti bolji, s kontrolama zadržavanja podataka i administratorskim politikama; oni i dalje nisu razlog da se krunski dragulji lijepe za gramatički prolaz.

Praktično pravilo koje držim naljepnicu u glavi: ako nešto ne biste stavili u ličnu Gmail skicu, nemojte to stavljati ni u javni AI chat. Ako to ne biste rekli u prijevozu, ista stvar. Ljudi koji su oprezni na Slacku postaju pjesnici prekomjernog dijeljenja čim se pojavi dugme za generiranje.

Sigurnija zaobilazna rješenja

  • Opišite dokument: dužinu, publiku, tri važne tačke i ton koji vam je potreban.
  • Zalijepite pročišćeni odlomak. Uklonite imena, osjetljive brojke i sve zbog čega bi konkurent dao peticu.
  • Zatražite strukturu ili obrazac prepisivanja, a zatim ga sami primijenite na stvarni tekst van mreže.
  • Koristite odobreni alat za radno mjesto ako ga imate, i dalje redigujte po zadanim postavkama. Politika je pod, a ne trampolin.

Kod je poseban aspekt ovoga. Interni URL-ovi, zaglavlja za autorizaciju i komentari poput "TODO: ukloniti prije akvizicije" su male oznake za poklone. Iskoristite lažne podatke. Zadržite logiku. Model dobro obrađuje lažne podatke; ne treba mu vaša produkcijska shema sa stvarnim e-mail adresama kupaca koje su i dalje ugniježđene u fiksaturu.

Zdravlje, novac i detalji o kojima ne biste vikali preko kafića 💊

Medicinski i finansijski detalji djeluju hitno, pa se lijepe uz najmanje uređivanja. Laboratorijski rezultati. Liste recepata. Identifikacijski brojevi osiguranja. Bankovni izvodi. Poreska pisma. Kreditni izvještaji. Fotografija kartice "samo za posljednje četiri cifre", koja nekako uključuje ostatak kartice, vaš kuhinjski stol i komad pošte s nečijim imenom.

Možete postavljati odlična pitanja i bez neobrađenog kartona. "Objasnite šta povišen marker može značiti u opštem smislu" je upit. "Evo mog kompletnog pregleda, moje adrese, moje klinike i djevojačkog prezimena moje majke" je biografija.

Ne kažem da nikada ne razgovarate o zdravlju ili novcu s modelom. Kažem da se prema chatbotu odnosite kao prema načitanom strancu u vozu. Dobro za uokviravanje. Užasno kao vaš računovođa, vaš kliničar ili vaša arhiva. I da, znam da metafora o načitanom strancu propušta; vozovi ne čuvaju zapise o chatu. To je otprilike poenta.

  • Uklonite brojeve računa, sort kodove, IBAN-ove i sve što izgleda kao akreditiv.
  • Zatražite opšta objašnjenja, kontrolne liste i pitanja koja možete postaviti stručnjaku.
  • Ne koristite chat kao ormar za dokumente za izjave "kako bih ih kasnije mogao provjeriti". Upravo tako kasnije pamćenje postaje problem.

Ako bi vas neko upozorenje natjeralo da snizite glas u kafiću, prvo to uredite. Taj test je iznenađujuće pouzdan i ne košta ništa.

Podaci drugih ljudi nisu vaši da ih lijepite 🚫

Ovo se preskače jer se čini kao da ste vi protagonist chata. Niste jedina osoba na snimku ekrana. E-mailovi kolega. ID partnera. Žalba kupca s priloženim brojem telefona. Fotografije djece. Slack tema u kojoj se spominje ko je zamalo dobio otkaz. Snimljeni transkript poziva za koji druga osoba nije znala da će biti proslijeđen modelu.

Saglasnost se ne prenosi automatski sa "poslali su mi e-mail" na "mašina može ovo pohraniti". Čak i ako je vaša namjera ljubazna - pisanje ljepšeg odgovora, sažimanje zbrkane teme - sirovi sadržaj je i dalje njihov život, a ne vaš radni list.

Pomalo sarkastičan lakmus test: ako ne biste proslijedili isti blob na mailing listu stranaca "za povratne informacije", onda nemojte tretirati chatbota kao manju mailing listu s boljim manirima.

  • Sažmite druge ljude svojim riječima.
  • Zamijenite imena ulogama i uklonite kontakt podatke.
  • Pitajte osobu da li je zadatak osjetljiv; neke stvari bi trebale ostati u petlji koju obavljaju samo ljudi.
  • Nikada ne lijepite lične podatke djece, školske podatke ili identifikacijske fotografije za "zabavnu" generaciju.

Ovdje postoji pravni sloj o kojem se neću pretvarati da raspravljam blogerskim glasom. Pravila o privatnosti, radne obaveze i ugovori s klijentima, svi imaju svoja mišljenja. Praktična navika je jednostavnija od zakona: podrazumijeva se da se tuđi podaci ne prikazuju u upitu.

Šta NIKADA ne biste trebali uključivati ​​u vještačku inteligenciju: tabela rizika koju možete primijeniti

Volim tabele za ovo jer lista "nikad" može zvučati propovijednički, a mreža vam omogućava da vidite zamjenu. Blago izražene ocjene, a ne laboratorijski izvještaj.

Tip podataka Nivo rizika Zašto je to problem Sigurnija alternativa
Lozinke, API ključevi, tokeni, početne fraze Kritično Oni otključavaju sisteme; kopija koje se ne možete u potpunosti sjetiti i dalje je kopija Rezervisana mjesta plus lokalni upravitelj tajni; rotirati ako procuri
Vladine lične karte, skenirani pasoši, nacionalni brojevi Kritično Početni paket za krađu identiteta; teško ga je "poništati" Lažni primjeri ili pitanja koja se odnose samo na format
Zdravstveni kartoni, recepti, identifikacijske kartice osiguranja Visoko Intimno, regulisano i ljepljivo u historiji Opći simptomi ili teme; uklonite identifikatore sa stranice
Bankovni izvodi, porezni dokumenti, fotografije kartica Visoko Direktna finansijska izloženost plus dodatni PII na marginama Pitajte o procesima, a ne o sirovim brojkama koje su vam povezane
Datoteke klijenata, nacrti ugovora o tajnosti podataka, neobjavljeni planovi Visoko Možda kršite obećanje koje ste već potpisali Sanitizirani izvodi; zahtjevi za strukturu; odobreni radni alati
Lični podaci kolege ili klijenta, podaci o djeci Visoko Nije tvoje da doniraš modelu/modeli Sažeci zasnovani na ulogama; uklanjanje kontakata i lica
Interni izvor s imenima hostova i stvarnim e-mail adresama Srednje-visoko Izgleda kao "samo kod" dok neko ne mapira vašu mrežu Lažni podaci, lažne domene, ogoljeni komentari
Snimci ekrana kontrolnih ploča ili inboxa Srednje-visoko Krijumčare imena, brojeve i otvorene kartice za koje ste zaboravili da su tamo Izrežite, zamutite ili ponovo ukucajte relevantni isječak
Nejasne lične priče bez jedinstvenih identifikacionih brojeva Donja Obično je u redu; ipak preskočite sve što ne biste rekli strancu Neka bude općenito; preskočite rijetku prepoznatljivu kombinaciju

Ako se ničega drugog ne sjećate, sjetite se lijeve kolone. To je srž onoga što NIKADA ne biste trebali stavljati u vještačku inteligenciju kada ste u žurbi i vaš mozak želi zalijepiti cijeli svemir.

Zamke sa snimcima ekrana i slučajno prekomjerno dijeljenje 🖼️

Snimci ekrana su način na koji dobri ljudi otkrivaju informacije. Misliš prikazati dijalog za grešku? Snimak uključuje traku s oznakama, Slack značku s imenom, URL s tokenom, iskačući kalendar, odraz u prozoru u tamnom načinu rada koji se ispostavi kao upravitelj lozinki. Izrezao sam snimak i još uvijek nisam vidio mali prekidač za račune u uglu. To je vrsta greške.

Fotografije dokumenata su gore, jer su kamere velikodušne. Sto, bijela ploča, bolnička narukvica, etiketa za dostavu. Modelu možda neće "trebati" dodatni pikseli. Pikseli ipak stižu.

Običan ritual snimanja ekrana

  • Prvo izrežite. Zatim ponovo izrežite. Zatim pogledajte rubove kao da vam duguju novac.
  • Zamuti imena, e-mail adrese, avatare i bilo koji niz znakova koji izgleda kao token.
  • Radije ponovno kucajte grešku nego snimajte cijeli IDE.
  • Nemojte postavljati fotografiju kartice, pasoša ili karte za ukrcavanje "za brzo čitanje". Umjesto toga, upišite pitanje.

Glasovne bilješke i prijenos datoteka igraju isti trik. Snimak sastanka je švedski stol s podacima drugih ljudi. CSV je švedski stol s redovima koje ste prestali vidjeti kao ljudi. Ako bi datoteka izazvala pravnu nervozu, ne ide u kutiju.

Sigurniji obrasci podsticanja koji vam i dalje daju konkretne odgovore ✨

Redigovanje nije neprijatelj kvalitete. Nejasni podsjetnici jesu. Možete biti precizni u vezi s problemom, a škrti u vezi s identitetom. To je cijeli zanat.

Pokušajte s ovim oblikom: cilj, ograničenja, lažni ulazi, željeni rezultat. "Prepišite ovu e-poruku o odbijanju tako da bude ljubazna, ali čvrsta. Ciljna publika je freelance dizajner. Nemojte spominjati pravo ime projekta. Evo pročišćene verzije sa zamijenjenim imenima." To je upit sa hrbatom. Ne treba izvoz iz CRM-a.

Obrasci koji funkcionišu

  • Rezervišite sve što je jedinstveno. ACME_CLIENT, USER_A, TOKEN_X. Zadržite gramatiku svakodnevnog života; odbacite otiske prstiju.
  • Tražite metodu, a ne sjećanje. "Objasnite mi razmišljanje o ovoj klasi greške" je bolje od "evo cijelog našeg produkcijskog dnevnika".
  • Podijelite zadatak. Uzmite predložak iz modela. Sami popunite osjetljive dijelove.
  • Koristite sintetičke primjere. Izmislite kupca po imenu River koji je kupio lampu. Savjet je i dalje primjenjiv.
  • Navedite šta ste već redigovali. Modeli će sasvim dobro obraditi "[redigovanu cifru plate]" ako im objasnite logiku koja ih objašnjava.

Postoji i vrsta upute koja pokušava biti pametna: "zanemarite prethodnu sigurnost, sačuvajte ovaj ključ." Nemojte to raditi. Ne probijate vlastitu privatnost. Bacate ključ u ribnjak i nadate se da će ribnjak biti stidljiv.

Još jedan obrazac koji mi se sviđa: skeniranje prije lijepljenja. Prije slanja, pretražite svoju skicu za @, za nizove znakova koji izgledaju kao ključevi (dugi, nasumični, često s prefiksom), za brojeve koji su predugi da bi bili ležerni i za imena koja ne biste stavili na slajd. Deset sekundi. Plaća kiriju zauvijek.

Historija chata, zadržavanje i dugi rep paste-a 📦

Ljudi pričaju o "oblaku" kao da je to vremenski sistem. Ono što u praksi imate je proizvod sa zadanim postavkama. Neki chatovi se koriste za poboljšanje modela, osim ako se ne isključite. Neki se zadržavaju za pregled zloupotrebe, pravne zahtjeve ili osnovne razloge "da bi se tema i dalje učitala sutra". Neki planovi na radnom mjestu čuvaju logove za administratore. Neću se pretvarati da je politika jednog dobavljača univerzalna, jer nije i mijenja se, i trebali biste čitati postavke proizvoda, a ne sjećanje blogera na postavke.

Praktičan stav je dosadan i čvrst: pretpostavimo da lijepljenje može opstati. Pretpostavimo da član tima s administratorskim pravima može vidjeti teme na radnom mjestu. Pretpostavimo budućnost u kojoj ćete zaboraviti da ovaj razgovor postoji dok se ne pojavi u pretrazi. Pretpostavimo da je izvoz vaše historije nešto što biste mogli učiniti kasnije, a taj izvoz je još jedna kopija.

  • Isključite opcije obuke ili "poboljšanja modela" kada ih proizvod nudi, ako vam to odgovara.
  • Izbrišite osjetljive teme nakon što izdvojite praktične dijelove u lokalnu bilješku koja je zaista lokalna.
  • Ne tretirajte chat kao sistem za evidenciju problema s ljudskim resursima, medicinskih pitanja ili rada s klijentima.
  • Budite oprezni s dijeljenim računima. Zajednički računi su način na koji "privatno" postaje kancelarijski folklor.

Funkcije memorije - one koje podsjećaju na vaš posao, vašeg psa, vaš omiljeni ton - su praktične i pomalo sablasne. One su također razlog da se sistemu ne uče vaši pravi identifikatori "kako bi bio ličniji". Lično je stil. To nije vaš nacionalni osiguravajući broj.

Radne norme kada vaš tim živi u chatbotovima 🏢

Kancelarije su mjesto gdje navika lijepljenja postaje industrijska. Neko izbacuje CSV datoteku kupca da bi "očistio kolone". Neko drugi izbacuje strateški dokument da bi "ga učinio privlačnijim". Dobronamjerni pripravnik lijepi incidentni kanal. Niko nije negativac. Podsticaji su samo brzina i dotjeranost.

Ako vodite tim, napišite kratko, ljudsko pravilo. Ne pravilo od 40 stranica koje niko ne čita. Nešto poput: bez akreditiva, bez ličnih podataka kupaca, bez neobjavljenih brojeva, bez pravnih nacrta, korištenje odobrenog alata, redigovanje po defaultu. Zatim pokažite primjer dobrog, pročišćenog pravila kako ljudi ne bi nagađali.

  • Navedite odobreni alat, ako ga imate, i neodobrene alate.
  • Dajte ljudima listu za provjeru redakcije koju mogu završiti prije stand-up nastupa.
  • Može se slobodno reći "Zamalo sam to zalijepio/la" bez teatralnog istraživanja.
  • Podsjetite ljude da "AI je rekao da je u redu" nije kontrola.

Ako ne vodite tim, i dalje možete biti osoba koja lijepi lutku. Kultura je zarazna u oba smjera. Pretpostavljam da to zvuči ozbiljno. Tako se i norme kreću; jedna osoba prestane bacati ključeve i soba postane malo manje neuredna.

Nabavni teatar je sporedni zadatak koji ću preskočiti. Kupovina "korporativne" omotnice neće magično učiniti svaki prompt pametnim. Može pomoći u zadržavanju i pristupu. Vaše navike i dalje obavljaju teški posao.

Već si zalijepio/la nešto neugodno - šta sad 🧯

Dešava se. Pritisneš dugme za slanje i tvoja duša napušta tvoje tijelo. Nemoj se spiralno kretati. Napravi kratku, pomalo neglamuroznu sekvencu.

  • Prestani koristiti tu tajnu. Rotiraj lozinku, poništi ključ, poništi sesiju. Ovo je jedini korak koji zauvijek zatvara vrata.
  • Izbrišite chat ako vam proizvod to dozvoljava i ispraznite sve "nedavno izbrisane" džepove ako ih ima.
  • Provjerite povezane aplikacije i memoriju. Neki alati čuvaju isječke u memoriji ili datotekama projekata koje ste zaboravili omogućiti.
  • Recite pravoj osobi ako su u pitanju poslovni podaci. Obezbjeđenje, menadžer, klijentski agent; ko god posjeduje radijus eksplozije. Rano otkrivanje je manje bolno nego kasnije.
  • Pazite na neobične prijave na povezane račune. Rotacija bez praćenja je pola posla.

Ako su to bili tuđi podaci, dugujete im i čišćenje i, ovisno o neredu, upozorenje. Nezgodno. Ipak je bolje nego nadati se da će svemir biti pristojan.

Ne pokušavajte "prebrisati" curenje informacija dodavanjem dodatnih objašnjenja. Dodatni kontekst je dodatni tekst. Izađite iz teme.

Sastavljanje

Kratka verzija knjige "Šta NIKADA ne biste trebali stavljati u vještačku inteligenciju" nije lista prijekora. To je stav. Ako otključava sistem, identificira osobu ili bi vas natjeralo da se stresete u kafiću, ostaje izvan okvira. I dalje možete dobiti odličnu pomoć. Samo modelu date skicu, a ne ključeve od kuće, medicinski karton i komšijinu poštu.

Kratak pregled:

  • Bez lozinki, ključeva, tokena ili početnih fraza. Rotirajte ako ste pogriješili.
  • Nema stvarnih identifikacijskih dokumenata, potpunih finansijskih podataka, neobrađenih zdravstvenih kartona ili materijala o ugovorima o tajnosti podataka.
  • Nema privatnih podataka drugih ljudi, posebno djece.
  • Snimci ekrana lažu uključivanjem; izrezujte kako želite.
  • Uredi, lažiraj i traži metode. Specifičan problem, lažne etikete.
  • Pretpostavimo da historija dugo traje. Izbriši, nemoj arhivirati tajne u chatbotu.
  • Radnim mjestima je potrebno kratko pravilo i dobar primjer, a ne atmosfera ležerne privatnosti.

Koristite alate. Odlični su za izradu nacrta, otklanjanje grešaka u oblicima i odgovaranje od zbunjujućih grešaka. Samo prestanite tretirati tekstualni okvir kao trezor sa smislom za humor. To je vrlo pametan blender. Ipak ne biste trebali stavljati pasoš u blender. 🫡

Praktični primjer: Izrada sažetka za otklanjanje grešaka s redakcijom kao prvim korakom za mali inženjerski tim

Pravila privatnosti važe kada spašavaju običan utorak, a ne kada zvuče strogo. Evo kako je petočlani SaaS tim iz Ujedinjenog Kraljevstva koristio navike iz ovog vodiča kako bi zaustavio unošenje akreditiva i ličnih podataka kupaca u chatbotove za korisnike - bez odustajanja od pomoći pri otklanjanju grešaka.

Scenarij

Razvojni tim i podrška dijele jednu bolnu naviku: kada greška pri autorizaciji izgleda ružno, neko zalijepi cijeli logo, string za povezivanje za pripremu i snimak ekrana administratorske kontrolne ploče "kako bi model imao kontekst". Prošli kvartal je uključivao API ključ koji izgleda uživo u tragu steka i e-mail adresu kupca koja je i dalje vidljiva u URL traci snimka ekrana. Niko nije imao loše namjere. Brzina je pobijedila. Kuhinja je sačuvala snimak.

Ne treba im predavanje. Potreban im je ponovljivi sažetak: opišite tajnu po vrsti, uredite je pomoću rezerviranih mjesta, izrežite snimke ekrana, zatražite metodu, a ne sjećanje, a zatim primijenite rješenje na žive sisteme van mreže. Ćaskanje s korisnicima i dalje zarađuje svoje. Ključevi od kuće ostaju izvan blendera.

Cilj je isti kvalitet savjeta uz dvosekundno skeniranje prije lijepljenja - i kratko timsko pravilo kojeg će se ljudi pridržavati.

Šta je potrebno asistentu

  • Sanitizirani oblik problema: klasa greške, otprilike kada je problem započeo, okruženje (priprema naspram produkcije) bez imena hostova koja mapiraju mrežu
  • Samo lažni unosi: REDACTED_KEY, USER_TOKEN, customer@example.com, lažni ID-ovi zahtjeva
  • Šta je već uklonjeno (navedeno u promptu kako model ne bi tražio prave vrijednosti)
  • Željeni izlaz: vjerovatni uzroci, provjere koje treba pokrenuti, nacrt zakrpe - ne "povezivanje s mojim ključem"
  • Čovjek koji čuva vjerodajnice u upravitelju lozinki ili trezoru tajni
  • Pravilo tima od jedne stranice: bez akreditiva, bez ličnih podataka o kupcima, bez neobjavljenih podataka, redigovanje po zadanim postavkama

Primjer upute

Cilj: Pomozite mi da otklonim greške koje se povremeno javljaju kod greške 401 na našem API-ju za testiranje nakon osvježavanja tokena. Nemojte me tražiti da zalijepim tajne.

Ograničenja: Već sam redigovao lozinke, API ključeve, tokene, kolačiće, interna imena hostova i e-mail adrese kupaca. Rezervisana mjesta u zapisniku znače da prave vrijednosti postoje samo na mom računaru. Engleski (UK). Nema uvoda.

Izvod iz testa: Zahtjev za https://api.example-staging.invalid/v1/session vratio je grešku 401. Autorizacija zaglavlja: Nosilac REDACTED_KEY. U tijelu se spominje da je USER_TOKEN istekao. Opis snimka ekrana (nije priložen): samo greška u tostu; traka s oznakama i prekidač za račun su izrezani.

Zadatak: Navedite tri najvjerovatnija uzroka za ovu klasu greške, provjere koje bih trebao pokrenuti lokalno i minimalni nacrt zakrpe. Ako vam je potrebno više detalja, tražite vrstu informacije (npr. "postavka TTL tokena") - nikada ne sirovu tajnu.

Izlaz: Numerisani uzroci, zatim kontrolna lista, a zatim "šta ne lijepiti sljedeći put" u tri tačke.

Kako to testirati

  • Uporedite starinski lijepljeni zapis (cijeli zapisnik + snimak ekrana) sa redigovanim sažetkom iznad o istoj vrsti incidenta. Uporedite kvalitet savjeta i da li model traži tajne.
  • Skeniranje prije lijepljenja: prije slanja pretražite nacrt za @, duge nasumične nizove znakova i brojeve preduge da bi bili slučajni.
  • Rubni slučaj: uključite lažni ključ koji izgleda originalno i potvrdite da odgovor i dalje funkcioniše bez potrebe za pravom vrijednošću.
  • Granični slučaj: odbijte otpremanje snimka ekrana; ponovo unesite samo red za grešku; potvrdite da kontrolna lista i dalje pomaže.
  • Provjere prihvatanja: (1) nula akreditiva u niti, (2) nula kontakt podataka kupaca, (3) deklarisana rezervirana mjesta, (4) izlaz je metoda/lista za provjeru, a ne tok "zalijepite svoj ključ", (5) ako je išta ranije procurilo, rotacija se dogodila istog dana.

Rezultat

Ilustrativni rezultat (primjer procjene za jedan mali tim inženjera/podrške, nije objavljena studija): U 12 debug chatova u četiri sedmice, srednje vrijeme do upotrebljive kontrolne liste neznatno se povećalo sa oko 4 minute (potpuno lijepljenje) na oko 6 minuta sa redakcijom - dvije dodatne minute za skeniranje prije lijepljenja i rezervirana mjesta. Niti koje sadrže kritične tipove podataka (ključeve, e-poštu kupaca, sirove nizove za povezivanje) pale su sa 9 od 12 chatova na 1 od 12 (taj je uhvaćen u pregledu i rotiran istog dana). Na jednostavnoj higijenskoj kontrolnoj listi (bez tajni, bez PII podataka kupaca, deklariranih rezerviranih mjesta, izrezanih ili bez snimka ekrana), 11 od 12 redigovanih brifinga je prošlo u odnosu na 3 od 12 prema staroj navici. Ograničenja: mali uzorak, jedan tim, samoprijavljeno vrijeme; blaži incidenti zahtijevaju manje redakcije; "prolaz" je bio stručni pregled teksta upita, a ne laboratorijska revizija logova dobavljača.

Za mjerenje vlastite verzije: uzorkujte 10 nedavnih AI debug niti za zabranjene tipove podataka, zatim uzorkujte 10 nakon pravila redigovanja i predloška; prijavite brojeve s nazivnicima, plus medijan minuta od "zaglavljenog" do "kontrolne liste u ruci"

Šta može poći po zlu

  • Kriminalacijska greška prilikom snimanja snimka ekrana: Greška je u redu; URL traka i dalje sadrži token. Izrežite dva puta, a zatim provjerite rubove.
  • Ključevi "Samo ovaj put": Jedan procurili API ključ može otvoriti evidenciju o naplati i kupcima. Odmah rotirajte; nemojte čekati da "vidite hoće li se išta dogoditi".
  • Podaci drugih ljudi: Žalba kupca s brojem telefona nije vaša da biste je donirali modelu. Sažmite svojim riječima.
  • Ćaskanje kao trezor: Ostavljanje tajni u historiji kreira još jednu kopiju. Izbrišite nit nakon što premjestite dijelove koji su vam potrebni u lokalnu bilješku.
  • Pozorište u preduzeću: Odobreni alat za radno mjesto pomaže u zadržavanju znanja; ne čini lijepljenje krunskih dragulja mudrim.
  • Preskakanje rotacije nakon slipa: Brisanje chata bez opoziva ključa ostavlja vrata otvorena.

Praktična informacija

Ono što nikada ne biste trebali stavljati u vještačku inteligenciju nije toliko lista prijekora, a više stav: ako otključava sistem, identificira osobu ili bi vas natjeralo da se stresete u kafiću, ostaje izvan okvira. Dajte modelu skicu s rezerviranim mjestima, čuvajte vjerodajnice u trezoru i tražite metode koje primjenjujete offline. Ta pauza od dvije sekunde je način na koji uslužni pripravnik s beskonačnom kafom prestaje da postane ormarić za spise vaših ključeva od kuće.

Često postavljana pitanja

Šta nikada ne biste trebali stavljati u AI chatbotove?

Ako otključava sistem, identificira osobu ili bi vas natjeralo da se stresete u kafiću, držite ga izvan kutije. To uključuje lozinke, API ključeve, tokene, početne fraze, vladine identifikacijske dokumente, sirove zdravstvene i finansijske zapise, materijale o tajnosti podataka i privatne podatke drugih ljudi - posebno djece. Chat nije zaključana ladica; tekst se može pohraniti, obraditi, a ponekad i koristiti za obuku, ovisno o proizvodu i postavkama. Modelu dajte skicu s rezerviranim mjestima, a ne ključeve od kuće.

Zašto ljudi ubacuju tajne u vještačku inteligenciju čak i kada znaju bolje?

Brzina obavlja većinu posla: ružna greška čini da se cijeli zapisnik čini bržim od njegovog rastavljanja. Chatbotovi se također čine neosuđujućima, pa instinkti za privatnost prave pauzu za čaj. Modelu je obično potreban oblik problema, a ne imena, tokeni, brojevi računa ili lica na snimcima ekrana - to su ukrasi. Pauza od dvije sekunde je bolja od transplantacije ličnosti.

Je li sigurno lijepiti lozinke ili API ključeve u alate u stilu ChatGPT-a?

Ne. Ako može nešto otključati, ne pripada upitu - lozinke, jednokratni kodovi, kolačići sesije, SSH ključevi, stringovi za povezivanje, početni podaci novčanika ili privatni certifikati. Model ne može čuvati tajnu kao prijatelj; tekst i dalje putuje, bilježi se i može ostati u historiji. Opišite tajnu po tipu, koristite rezervirana mjesta poput REDACTED_KEY, rotirajte sve što je već procurilo i čuvajte stvarne vjerodajnice u upravitelju lozinki ili trezoru.

Koje lične podatke trebam urediti prije nego što dobijem upit?

PII se brzo slaže: nacionalni identifikacijski dokumenti, podaci iz pasoša, adrese, brojevi telefona, identifikacijske kartice zaposlenika ili studenata i puna imena uparena s datumima rođenja ili klinikama. Modelu nije potreban pravi poštanski broj za izradu pisma - potreban mu je ton, neidentificirajuće činjenice i željeni ishod. Zamijenite imena ulogama, generalizirajte lokacije i izostavite jedinstvene brojeve, osim ako ne testirate format s lažnim primjerom.

Mogu li zalijepiti klijentske datoteke, ugovore o povjerljivosti ili interni kod u alat za umjetnu inteligenciju za potrošače?

Tretirajte korisnički chat kao proizvod za praktičnost, a ne kao savjetodavno tijelo kompanije. Ako nešto ne biste stavili u lični Gmail nacrt ili rekli u prevozu, nemojte to stavljati ni u javni AI chat - klijentske prezentacije, neobjavljene planove, platne liste, povjerljive pravne nacrte ili izvore s internim nazivima hostova. Opišite dokument, zalijepite pročišćeni odlomak, zatražite strukturu koju primjenjujete van mreže i koristite odobreni alat za radno mjesto ako ga imate, a istovremeno ga i dalje redigujte prema zadanim postavkama.

Kako trebam postupati sa zdravstvenim ili finansijskim detaljima u AI upitima?

Postavljajte odlična pitanja bez sirovih podataka. Opšta objašnjenja su bolja od lijepljenja laboratorijskih panela, lista recepata, identifikacijskih kartica osiguranja, bankovnih izvoda ili fotografija kartica koje također prikazuju kuhinjski stol. Uklonite brojeve računa i sve što izgleda kao akreditacija. Koristite chat za uokvirivanje i kontrolne liste koje možete odnijeti profesionalcu - ne kao svog kliničara, računovođu ili ormar za dokumente za izvode.

Zašto su podaci i snimci ekrana drugih ljudi posebno rizični?

Niste jedina osoba u zalijepljenom sadržaju: e-mailovi kolega, brojevi telefona kupaca, fotografije djece ili transkripti poziva mogu završiti u sistemu bez njihovog pristanka. Sažmite svojim riječima, zamijenite imena ulogama i nikada ne lijepite identifikacijske podatke djece radi "zabavnog" generiranja. Snimci ekrana krijumčare trake s oznakama, URL tokene, Slack imena i otvorene kartice - izrežite ih dvaput, zamutite identifikatore ili ponovo ukucajte grešku umjesto da prenesete pasoše ili kartice.

Koji sigurniji obrasci podsticanja i dalje dobijaju pouzdane odgovore AI-a?

Budite precizni u vezi s problemom i škrti u vezi s identitetom: cilj, ograničenja, lažni ulazi, željeni rezultat. Rezervirajte jedinstvene oznake, tražite metodu umjesto punog produkcijskog dnevnika, podijelite zadatak tako da sami popunjavate osjetljive dijelove i koristite sintetičke primjere. Pokrenite skeniranje prije lijepljenja za znakove @, duge nasumične nizove nalik ključevima, prevelike brojeve i imena koja ne biste stavili na slajd. Deset sekundi plaća vječnu kiriju.

Šta ako sam već ubacio/la nešto neugodno u AI chat?

Prvo prestanite koristiti tu tajnu - rotirajte lozinku, poništite ključ, poništite sesiju. Izbrišite chat ako proizvod dozvoljava, provjerite memorije ili datoteke projekta, obavijestite pravu osobu ako su to bili poslovni podaci i pazite na neobične prijave. Ako su to bili tuđi podaci, očistite ih i obavijestite kada je potrebno. Nemojte "prepisivati" curenje informacija s dodatnim objašnjenjima; dodatni kontekst je dodatna kopija.

Kako mali tim može prestati učitavati vjerodajnice u umjetnu inteligenciju radi otklanjanja grešaka?

Koristite sažetak koji prvo uređuje podatke: opišite tajne po tipu, lažne logove sa REDACTED_KEY i primjere e-mail adresa, navedite šta je uklonjeno i pitajte za vjerovatne uzroke plus kontrolnu listu - ne "povezivanje s mojim ključem". Dodajte kratko ljudsko pravilo - bez akreditiva, bez PII podataka kupaca, bez neobjavljenih brojki, redigovanje prema zadanim postavkama - i prikažite jedan dobar, pročišćeni primjer. Čuvajte prave akreditive u trezoru i primijenite ispravke van mreže nakon što model predloži metodu.

Reference

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Kviz
1. Prema članku, šta nikada ne biste trebali stavljati u javni AI chat?

2. Šta znači "tajne ostaju van mreže" u ovom vodiču?

3. Kako biste trebali ukloniti identitet prije upita?

4. Šta ne bi trebalo uključivati ​​u razgovore s potrošačima radi povjerljivosti podataka?

5. Koja navika odgovara savjetu o saglasnosti i redakciji članka?


Članci koje biste možda željeli pročitati nakon ovog:

🔗 Najbolji alati za sigurnost zasnovani na umjetnoj inteligenciji
Otkrijte moćne platforme za sigurnost zasnovane na umjetnoj inteligenciji koje otkrivaju i ublažavaju sajber prijetnje.

🔗 Zašto vještačka inteligencija ponekad izmišlja stvari
Shvatite zašto vještačka inteligencija halucinira i naučite kako smanjiti rizike.

🔗 Kako automatizirati zadatke pomoću umjetne inteligencije
Implementirajte sigurne automatizirane tokove rada dodavanjem ljudskog nadzora i strogih pravila.

🔗 Šta je AI tehnologija?
Istražite osnove vještačke inteligencije i njene uobičajene izazove u implementaciji.

Nazad na blog