AI žinių bazės ir konfidencialumas: 7 klausimai, kuriuos kiekvienas paslaugų teikėjas turėtų užduoti prieš įrašydamas klientų pokalbius

Kodėl šis straipsnis

AI žinių bazė, kuri įrašo, transkribuoja ir leidžia ieškoti klientų pokalbiuose, paslaugų teikėjams suteikia didelį produktyvumo pranašumą. Anksčiau rašėme apie tai, kaip AI žinių bazės kiekvienam projektui pagaliau tampa išmanios remdamosi jūsų įmone, tačiau vos tik pradedate fiksuoti balsą, vaizdą ar pokalbius, tema iš „naudingas įrankis“ pasikeičia į „teisinis vertinimas“.

Šis straipsnis yra septynių klausimų kontrolinis sąrašas, į kuriuos turite mokėti atsakyti prieš diegdami tokį įrankį kaip Symphoria (Wux Webtools partneris ir platforma, kurią naudojame patys) ar alternatyvą. Klausimai pagrįsti BDAR, ES AI aktu, EDPB gairėmis ir kasdiene Nyderlandų paslaugų teikėjų praktika, kai siekiama išlikti atitikties ribose, tačiau neužparalyžiuoti darbo.

Kontekstas: esate paslaugų teikėjas — konsultacijų įmonė, kūrėjas, rinkodaros agentūra, buhalteris — padedantis klientams su projektais, kurie trunka mėnesius ir sukuria dešimtis pokalbių. Norite, kad AI apibendrintų tuos pokalbius, išskirtų veiksmų punktus ir atsakytų į klausimus, pavyzdžiui, „ką klientas praėjusią savaitę sakė apie biudžetą?“. Tai įmanoma. Bet ne be šių septynių atsakymų.

1. Kas duoda sutikimą įrašyti ir kaip tai užfiksuojate?

BDAR reikalauja teisėto pagrindo kiekvienam asmens duomenų tvarkymui (6 str.). Pokalbių įrašams paprastai reikia sutikimo (6 str. 1 d. a p.) arba teisėto intereso (6 str. 1 d. f p.). Sutikimas turi būti išankstinis, konkretus, informuotas ir duotas laisva valia (7 str.). Tai reiškia: jokių iš anksto pažymėtų langelių, jokių paslėptų sąlygų taisyklėse ir nuostatose, ir tikrai jokio „įrašome, nebent prieštaraujate“.

Ką norite matyti: Aiškų opt-in momentą prieš įrašant pirmąjį pokalbį. Tai gali būti žymimasis langelis projekto įtraukimo procese („Sutinku, kad susitikimai būtų įrašomi projekto dokumentavimo ir AI pagalbos tikslais“), žodinis patvirtinimas skambučio pradžioje („Šis skambutis įrašomas mūsų vidinei žinių bazei — ar sutinkate?“) arba atskiras sutikimo el. laiškas. Sutikimas turi būti registruojamas: kas, kada, kokiu tikslu ir kokia formuluote.

Kaip tai sprendžia Symphoria: Symphoria siūlo sutikimo sluoksnį kiekvienam projektui. Prieš pradedant įrašą, sistema aiškiai paprašo visų dalyvių sutikimo. Tas sutikimas saugomas su laiko žyma ir IP adresu, o jį galima atšaukti kiekvienam projektui. Tai palengvina BDAR 7 str. 3 d. laikymąsi („atšaukti sutikimą turi būti taip pat lengva, kaip jį duoti“).

2. Kur fiziškai saugomi duomenys ir kokia teisė taikoma?

Iš esmės BDAR draudžia perduoti asmens duomenis į šalis už EEE ribų be tinkamų apsaugos priemonių (44–50 str.). Po Schrems II sprendimo (2020) standartinės sutarčių sąlygos (SCC) nebėra pakankamos, jei gaunančiajai šaliai taikomi tokie priežiūros teisės aktai kaip FISA 702 JAV. ES AI aktas (2024) prideda dar vieną sluoksnį: didelės rizikos AI sistemos turi atitikti skaidrumo ir audito reikalavimus, kuriuos sunku užtikrinti, jei duomenys saugomi už ES ribų.

Ką norite matyti: Aiškų pareiškimą, kur fiziškai saugomi duomenys (kuris duomenų centras, kuri šalis), kurie subtvarkytojai turi prieigą ir ar toms šalims taikomi ne Europos priežiūros teisės aktai. Idealu: saugojimas ES viduje pas tiekėją, kuris neturi JAV patronuojančiosios bendrovės arba aiškiai siūlo „tik ES“ režimą.

Kaip tai sprendžia Symphoria: Symphoria veikia visiškai Europos infrastruktūroje (AWS eu-west-1, Frankfurt) ir nenaudoja JAV subtvarkytojų transkriptams saugoti ar tvarkyti. Tai palengvina atitiktį Schrems II be sudėtingų poveikio vertinimų.

3. Kuris modelis apdoroja transkriptus ir ar jie naudojami mokymui?

Dauguma AI žinių bazių transkriptams apdoroti naudoja išorinį LLM (OpenAI, Anthropic, Google). Tai kelia du klausimus: (1) ar transkriptai naudojami modeliui mokyti? ir (2) kas turi prieigą prie užklausų ir atsakymų? OpenAI API sąlygose nuo 2023 m. kovo nurodyta, kad per API siunčiami duomenys mokymui nenaudojami — nebent aiškiai pasirenkate dalyvauti atskiroje programoje. Tačiau ši garantija taikoma ne visiems tiekėjams ir tikrai netaikoma nemokamai ar „tyrimų“ prieigai.

Ką norite matyti: Aiškų pareiškimą, kad transkriptai nenaudojami modelio mokymui ir kad po apdorojimo LLM tiekėjas nebeturi prieigos prie jų. Tai turi būti įtraukta į duomenų tvarkymo sutartį, o ne tik į FAQ. Papildomas privalumas: platforma naudoja modelį, kurį galite talpinti patys (pvz., Llama, Mistral), arba Europos tiekėją su griežta nemokymo sąlyga.

Kaip tai sprendžia Symphoria: Symphoria naudoja OpenAI API su Business Associate Agreement (BAA) ir nemokymo sąlyga. Transkriptai apdorojami per API, tačiau OpenAI jų nesaugo ir jie neįtraukiami į būsimas modelio versijas. Tai aiškiai nurodyta subtvarkytojų sąraše.

4. Kiek laiko saugote įrašus ir embeddings, ir kas gali juos ištrinti?

BDAR reikalauja, kad asmens duomenys nebūtų saugomi ilgiau, nei būtina tikslui, kuriam jie buvo surinkti (5 str. 1 d. e p.: saugojimo trukmės apribojimas). AI žinių bazei tai reiškia, kad turite galėti paaiškinti, kodėl prieš šešis mėnesius padarytas įrašas vis dar aktualus, ir turite turėti senų duomenų ištrynimo procesą. Tai taip pat taikoma išvestiniams duomenims: embeddings (teksto vektorinės reprezentacijos) yra asmens duomenys, jei juos galima susieti su konkrečiu asmeniu.

Ką norite matyti: Konfigūruojamą saugojimo laikotarpį kiekvienam projektui (pvz., „automatiškai ištrinti įrašus po 12 mėnesių“), mygtuką, leidžiantį projekto vadovui rankiniu būdu ištrinti įrašą, ir garantiją, kad ištrynimas taip pat paveikia embeddings ir indeksus, o ne tik garso failą. Idealu: audito žurnalas, rodantis, kada kas nors buvo ištrinta ir kieno.

Kaip tai sprendžia Symphoria: Symphoria siūlo „saugojimo politiką“ kiekvienam projektui. Galite sukonfigūruoti, kad įrašai būtų automatiškai ištrinami po X mėnesių, įskaitant transkriptus ir embeddings. Rankinis ištrynimas galimas per projekto sąsają, o kiekvienas ištrynimas registruojamas audito sekoje.

5. Kokie audito žurnalai prieinami — ar klientas vėliau gali pamatyti, kas nutiko „jo“ pokalbiui?

Skaidrumas yra pagrindinis BDAR principas (5 str. 1 d. a p.). Tai reiškia, kad turite galėti paaiškinti, ką padarėte su kieno nors duomenimis — net ir vėliau. AI žinių bazei tai reiškia, kad turite galėti parodyti, kokie įrašai buvo padaryti, kas juos peržiūrėjo, kokios užklausos buvo vykdytos ir ar duomenys buvo eksportuoti ar ištrinti. Be audito žurnalų negalite atsakyti į šiuos klausimus, o duomenų saugumo pažeidimo ar skundo atveju rizikuojate baudomis.

Ką norite matyti: Audito žurnalą kiekvienam projektui, kuris fiksuoja bent: (1) kas pradėjo įrašą, (2) kas peržiūrėjo transkriptą, (3) kokios užklausos buvo vykdytos žinių bazėje, (4) ar duomenys buvo eksportuoti ir (5) ar duomenys buvo ištrinti. Tas žurnalas turi būti paieškomas ir saugomas bent 12 mėnesių (ilgiau, jei dirbate reguliuojamame sektoriuje).

Kaip tai sprendžia Symphoria: Symphoria registruoja visus veiksmus projekto lygmeniu: įrašus, peržiūras, užklausas, eksportus ir ištrynimus. Šie žurnalai prieinami projekto savininkui ir gali būti eksportuojami kaip CSV. Tai palengvina atsakymą į prieigos prašymą (BDAR 15 str.) arba incidento tyrimą.

6. Kokia pasitraukimo strategija? (Ar galite eksportuoti savo žinių bazę atviru formatu?)

Priklausomybė nuo tiekėjo yra rizika naudojant bet kurį SaaS įrankį, tačiau AI žinių bazės atveju ji ypač skausminga: esate sukaupę mėnesių pokalbius, transkriptus ir metaduomenis, o jei negalite jų eksportuoti, prarandate tas žinias. BDAR suteikia jums teisę į duomenų perkeliamumą (20 str.), tačiau ji taikoma tik duomenims, kuriuos pateikėte patys, o ne išvestiniams duomenims, tokiems kaip embeddings ar santraukos. Vis dėlto išmintinga reikalauti, kad galėtumėte eksportuoti viską formatu, kurį galite importuoti pas kitą tiekėją.

Ką norite matyti: Eksporto mygtuką, kuris suteikia bent: (1) visus garso ar vaizdo failus, (2) visus transkriptus paprastu tekstu arba JSON, (3) visus metaduomenis (laiko žymas, dalyvius, žymas) ir (4) idealiu atveju taip pat embeddings atviru formatu, pavyzdžiui, Parquet arba JSONL. Papildomas privalumas: eksportas automatizuotas ir gali būti suplanuotas (pvz., savaitinė atsarginė kopija į jūsų S3 bucket).

7. Kas yra tvarkytojas, kas yra valdytojas, ir ar tai dokumentuota duomenų tvarkymo sutartyje?

BDAR skiria valdytoją (šalį, kuri nustato, kodėl ir kaip tvarkomi asmens duomenys) ir tvarkytoją (šalį, kuri tvarko duomenis valdytojo vardu). Kaip paslaugų teikėjas, paprastai esate valdytojas, o AI žinių bazė yra tvarkytojas. Tai reiškia, kad jums reikia duomenų tvarkymo sutarties (BDAR 28 str.), kurioje tiksliai nustatyta, ką tvarkytojas gali daryti, kiek laiko, su kuriais subtvarkytojais ir kas vyksta duomenų saugumo pažeidimo atveju.

Ką norite matyti: Duomenų tvarkymo sutartį (DPA), atitinkančią BDAR 28 str. 3 d. Joje turi būti bent: (1) tvarkymo dalykas ir trukmė, (2) tvarkymo pobūdis ir tikslas, (3) asmens duomenų tipas ir duomenų subjektų kategorijos, (4) valdytojo teisės ir pareigos, (5) subtvarkytojų sąrašas ir (6) duomenų saugumo pažeidimų procedūra. Ši sutartis turi būti pasirašyta prieš pradedant įrašinėti.

Kaip tai sprendžia Symphoria: Symphoria siūlo standartinę DPA, atitinkančią BDAR 28 str. Ją galite pasirašyti per platformos sąsają, o pridėjus naują subtvarkytoją ji automatiškai atnaujinama. Tai palengvina atitikties išlaikymą neįtraukiant teisininkų komandos kiekvieną kartą.

TL;DR kontrolinis sąrašas

• Sutikimas: Užfiksuokite išankstinį, konkretų sutikimą — su laiko žyma ir atsisakymo galimybe.
• Saugojimas: Patikrinkite, ar duomenys saugomi ES viduje ir ar jiems netaikomi ne Europos priežiūros teisės aktai.
• Mokymas: Reikalaukite aiškios garantijos, kad transkriptai nenaudojami modelio mokymui.
• Saugojimo trukmė: Nustatykite saugojimo laikotarpį ir užtikrinkite, kad ištrynimas taip pat paveiktų embeddings.
• Auditas: Reikalaukite žurnalų, kas ką peržiūrėjo, kokias užklausas vykdė ir ką ištrynė.
• Eksportas: Patikrinkite, ar galite eksportuoti visus duomenis atviru formatu.
• DPA: Pasirašykite duomenų tvarkymo sutartį prieš pradėdami įrašinėti.

Ką tai reiškia jūsų organizacijai

Jei galite atsakyti į šiuos septynis klausimus, esate gerame kelyje. Tačiau atkreipkite dėmesį: atitiktis nėra vienkartinis kontrolinis sąrašas. BDAR reikalauja reguliariai tikrinti, ar vis dar atitinkate reikalavimus (24 str.: „tinkamos techninės ir organizacinės priemonės“), o ES AI aktas prideda dar vieną sluoksnį didelės rizikos sistemoms. Tai reiškia: periodiniai auditai, DPIA naujiems naudojimo atvejams ir procesas, kaip reaguoti į prieigos prašymus bei duomenų saugumo pažeidimus.

Norite pamatyti, kaip tai veikia praktikoje? Perskaitykite savaitę su AI žinių baze: kaip ji keičia projektų vadovo darbą paslaugų teikėjo organizacijoje — pasakojamąjį atvejį, kuriame tiksliai parodome, kaip šie klausimai iškyla kasdienėje praktikoje.

Pagrindinė pamoka: AI žinių bazė tampa produktyvumo pranašumu tik tada, jei išlaikote klientų pasitikėjimą. O tą pasitikėjimą pelnote užduodami šiuos klausimus — ir galėdami į juos atsakyti — prieš paspausdami „record“.