Behandlingsrapport og vurdering av personvern i chatbot-tenesta på Ryfylkeskulen.no

Innleiing og utfordring

Dette er ingen vanleg behandlingsrapport og DPIA. Det som er ulikt med chatbot-tenesta på Ryfylkeskulen.no, er at tenesta ikkje behandlar eller lagar personopplysningar, samtidig som den er knytta til teknologi som er mykje omtalt i media, der det finst mange utfordringar knytta til personvern. Sidan det ikkje er tilstrekkeleg å hevda at ei teneste ikkje behandlar personopplysningar, vil me i denne rapporten forklara og erklæra at tenesta faktisk ikkje gjer det.

Merk: Etter kvart kjem det eigne ressurssider som forklarer kvifor me ynskjer å bruka språkmodellar i undervisninga i Ryfylkeskulen, samt eksempel på korleis ein kan bruka språkmodellar i undervisninga.

Skildring av løysinga

Nettportalen Ryfylkeskulen.no

Ryfylkeskulen.no er ein nettportal som blir driven og eigd av RITS-kommunane Sauda, Suldal, Hjelmeland og Strand, gjennom selskapet Ryfylke IT-samarbeid KO (org. nr. 929 371 763). Den tekniske løysinga – webhotellet og domenenamnet – blir levert av PRO ISP AS (org. nr. 896 907 662) gjennom forhandlar Hetland Media (org. nr. 993 089 818).

Ryfylkeskulen.no er for tida plassert på ein virtuell server i Noreg. For at chatbot-tenesta skal fungera, består nettportalen av desse komponentane:

• WordPress – gratis og fri programvare for å byggja og drifta nettportalen
• AI Engine av Meow Apps – utviding til WordPress, som koplar nettportalen opp mot ulike språkmodellar
• OAuth Client for user authentication – utviding til WordPress, for å la lærarar og elevar logga på med Feide
• Restrict User Access – utviding til WordPress, for å stenga ned tilgangen til chatbot-tenesta, slik at berre pålogga brukarar får tilgang

OpenAI og GPT-APIar

Chatbot-tenesta er avhengig av språkmodellane til OpenAI.

Hjelmeland kommune har oppretta eit abonnement hjå OpenAI, der det er registrert ein API-nøkkel som koplar saman Ryfylkeskulen og GPT-endepunktet hjå OpenAI. API-nøkkelen er lagt inn i AI Engine-utvidinga i WordPress.

OpenAI har grenser for kor mykje ein kan bruka dei ulike språkmodellane, målt i talet på tokens (stavingar) produsert per minutt.

Feide

Ryfylkeskulen.no er oppretta i Feide kundeportal som ei teneste levert av Hjelmeland kommune. Pålogging med Feide vil ikkje lagra informasjon om brukarane, og blir berre brukt til å avgrensa tilgangen til chatbot-tenesta, slik at berre elevar og lærarar i RITS-kommunane får tilgang. Kvar RITS-kommune må sjølv aktivera Ryfylkeskulen.no i Feide kundeportal, for å få tilgang til chatbot-tenesta.

Chatbotane er ei anonymisert teneste i alle ledd

Kommunikasjon mellom chatbot-tenesta på Ryfylkeskulen.no og OpenAI

Kommunikasjonen mellom ein brukar og OpenAI via Ryfylkeskulen.no skjer på ein måte som gjer at brukaren ikkje blir identifisert som ein bestemt person.

Kommunikasjonen skjer slik, trinn for trinn:

• Ein brukar besøker nettsida med chatbot-tenesta på Ryfylkeskulen.no, og får tilgang til chatboten saman med ein tilfeldig generert sesjons-ID som er knytta til den aktuelle chatten. Brukaren blir ikkje identifisert som ein bestemt person.
• Brukaren skriv inn og sender ein leietekst (promt) i chatbot-løysinga, som nå viser i nettlesaren på brukaren si eining.
• Leieteksten blir sendt frå brukaren si eining til nettportalen Ryfylkeskulen.no.
• Leieteksten blir sendt vidare frå Ryfylkeskulen.no, saman med IP-adressa til Ryfylkeskulen.no sitt webhotell, API-nøkkelen til OpenAI-abonnementet og eit løpenummer som OpenAI kan svara med, slik at Ryfylkeskulen.no veit kva chatbot-sesjon som skal få svaret. Det blir ikkje sendt noko anna informasjon om brukaren, som framleis er heilt anonym.
• OpenAI bearbeidar leieteksten, og sender eit svar tilbake til Ryfylkeskulen.no, saman med informasjon om kor mange tokens som blei brukt.
• OpenAI lagrar leieteksten og det genererte svaret i inntil 30 dagar, for å hindra misbruk av tenesta.
• Ryfylkeskulen.no sender svaret frå OpenAI til den aktuelle chatbot-sesjonen i brukaren sin nettlesar. Leietekst og svar blir berre lagra i nettlesarsesjonen på brukaren si eining, og ikkje på Ryfylkeskulen.no sitt webhotell.
• Når brukaren trykker på knappen Slett alt, blir heile samtalen i den aktuelle chatboten sletta frå nettlesarsesjonen på brukaren si eining.

Kva får OpenAI ikkje vita?

OpenAI får aldri informasjon som kan brukast direkte til å identifisera enkeltbrukarar.

OpenAI får berre informasjon om IP-adressa til Ryfylkeskulen.no sitt webhotell, men aldri IP-adressa til brukaren som loggar seg inn i chatbot-tenesta på Ryfylkeskulen.no.

OpenAI får tilsendt ein leietekst saman med eit tilfeldig generert sesjons-ID, men får aldri ein chat-ID, og er dermed ikkje i stand til å følgja med på éin bestemt samtale på Ryfylkeskulen.no si chatbot-løysing.

Alle førespurnader til OpenAI via Ryfylkeskulen.no si chatbot-løysing er heilt anonyme, og OpenAI har difor ikkje høve til å finna ut kven som har sendt inn teksten, bortsett frå at teksten kjem frå chatbot-løysinga på Ryfylkeskulen.no.

Kva skjer når brukaren må logga seg på med Feide?

Når me på eitt eller anna tidspunkt krev pålogging via Feide, for å unngå at andre enn lærarar og elevar i RITS-kommunane kan belasta kommunane med utgifter knytta til bruken av språkmodellane til OpenAI, vil ikkje brukaridentiteten bli kopla saman med chatbot-tenesta på Ryfylkeskulen.no. Dette skuldast at Ryfylkeskulen.no berre sjekkar kva kommune brukaren loggar inn frå, og dermed blir det ikkje lagra noko informasjon om brukaren.

Feide-pålogginga fungerer dermed berre som ein portvoktar til nettsida der chatbot-tenesta ligg tilgjengeleg. Når brukaren er logga inn med Feide, vil altså ingen leietekst eller kommunikasjon mellom Ryfylkeskulen.no og Open AI vera knytta til brukaren sin identitet. Det er ingen koplingar mellom brukaridentiteten og leietekstar/svar.

Det blir ikkje lagra historikk om leietekstar nokon stad på Ryfylkeskulen.no, og dermed kan ingen andre enn brukaren sjølv få tilgang til leietekstar og svar. Sidan ingenting blir lagra, har ingen leverandørar eller tilsette i RITS-kommunane høve til å vita kven som har skrive kva i chatbot-tenesta.

Innhaldet i leieteksten er ikkje personopplysningar

Leieteksten er eit fritekstfelt

Brukarane kan skriva kva som helst i leietekstfeltet. Ingen har høve til å kontrollera kva dei skriv. Likevel tek me utgangspunkt i at det ikkje blir overlevert personopplysningar til OpenAI.

Årsaka til dette, er at opplysningane som blir sende frå chatbot-løysinga på Ryfylkeskulen.no er anonyme. OpenAI har ikkje høve til å finna ut kven som har sendt inn ein leietekst, og difor har dei heller ikkje høve til å vurdera om innhaldet i leieteksten er ein reell opplysning eller berre oppspinn.

Personopplysningar er definert som enhver opplysning om en identifisert eller identifiserbar fysisk person («den registrerte»); en identifiserbar fysisk person er en person som direkte eller indirekte kan identifiseres, særlig ved hjelp av en identifikator, f.eks. et navn, et identifikasjonsnummer, lokaliseringsopplysninger, en nettidentifikator eller ett eller flere elementer som er spesifikke for nevnte fysiske persons fysiske, fysiologiske, genetiske, psykiske, økonomiske, kulturelle eller sosiale identitet. (Kjelde: GDPR, Artikkel 4, 1. ledd)

I kommunikasjonen mellom brukaren og OpenAI finst det ingen identifikatorar som kan brukast til å identifisera kven som er avsendar av leieteksten, og leieteksten kan difor ikkje reknast som ei personopplysning. Ledeteksten er i seg sjølv ikkje ein identifikator, og me reknar innhaldet i den for å vera ustrukturert informasjon. Det er ikkje mogleg å identifisera ein person – direkte eller indirekte – uansett kva innhaldet i leieteksten er, utan at innhaldet kan verifiserast via andre sikre kjelder. Chatbot-løysinga på Ryfylkeskulen.no har ikkje tilgjengelege løysingar for å verifisera innhaldet i leietekstane via andre sikre kjelder.

Formulert på ein annan måte: Leieteksten er berre eit tomt innhaldsfelt, utan anna tilkopla data som kan gje meining til innhaldet i leieteksten. Difor er innhaldet utan meining, og kan ikkje vera personopplysningar. Leieteksten kan ikkje seia noko korrekt om verda, på same måte som svaret frå språkmodellen heller ikkje er ein kvalifisert uttale om verkelegheita, sidan språkmodellar ikkje kan reknast som ein aktør.

Vanlegvis er fritekstfelt knytta til ein identitet, noko som vil gjera all informasjon i eit fritekstfelt til personopplysningar, men sidan fritekstfeltet i chatbot-løysinga på Ryfylkeskulen.no aldri blir kopla til brukaren, vil ikkje dette vera tilfelle i denne tenesta.

Innhaldet i leieteksten er i prinsippet berre tilfeldige bokstavar, som berre gjev meining i ein bestemt kontekst. Innhaldet vil aldri kunna bli rekna som personopplysningar, sidan leieteksten ikkje er kopla saman med informasjon som kan gje leieteksten ein nødvendig kontekst for å bli meiningsfull.

Eit «tenk viss»-tilfelle

Dersom ein går ut frå at leieteksten inneheld personopplysningar, er det likevel ingen i kommunikasjonsprosessen som kan lesa innhaldet i leieteksten.

Dersom OpenAI merkar innhaldet i leieteksten som mistanke om misbruk av tenesta, kan innhaldet bli lese og i teorien gjenkjent. Sannsynet for at den blir gjenkjent som ein reell og korrekt personopplysning, er så lite at det berre er ein teoretisk mogelegheit, og det vil i praksis ikkje kunna skje. Det måtte til dømes vera dersom nokon i undersøkingsteamet til OpenAI faktisk kan gjenkjenna brukaren ut frå den avgrensa informasjonen som står i leieteksten.

Me vurderer det difor slik at den reelle risikoen for lekkasje av personopplysningar er ikkje-eksisterande, med tanke på at leietekstane berre blir lagra hjå OpenAI i 30 dagar.

Ei samanlikning med andre tenester

Det er freistande å samanlikna kor mange personopplysningar «anonym» bruk av til dømes snl.no, google.com og nrk.no gjev til dei respektive tenestene i form av klikk, søk, IP-adresser, informasjonskapslar og liknande. Dette er tenester som me forventar at elevane bruker i skulearbeidet.

IP-adresser kan reknast som personopplysningar, og når IP-adressene blir kopla til klikk, søk og andre aktivitetar på ei nettside. Alle digitale tenester lagrar ei rekkje personopplysningar med grunngjeving om å vidareutvikla tenestene sine og sikra systema mot misbruk. Desse personopplysningane vil vera meir eigna til å kunna identifisera brukarar enn det som er mogleg gjennom å lagra tilfeldige leietekstar som blir sendt frå chatbot-løysinga på Ryfylkeskulen.no.

For å bruka google.com som eit eksempel: Søkjefeltet i Google er eit fritekstfelt. Du kan skriva inn kva du vil. Innhaldet blir sendt til Google, og du får eit svar. Fritekstfeltet, IP-adressa, informasjonskapslar og ei rekkje andre identifiserbare opplysningar blir lagra hjå Google, og dei kjem til å bruka opplysningane til å utbetra tenestene sine. Så lenge du ikkje er logga inn på Google, så reknar me likevel ikkje dette for å vera lagring eller bruk av personopplysningar.

Det er gjerne spesielt å setja ulike tenester opp mot kvarandre som eit argument for å vurdera personvernomsynet, men det er viktig å påpeika at kommune-Noreg allereie godtek bruk av tenester som samlar inn og bruker langt meir identifiserande opplysningar enn det OpenAI gjer i samband med dei 30 dagane dei lagrar leietekstar og svar frå chatbot-tenesta på Ryfylkeskulen.no.

Logging på webhotellet til Ryfylkeskulen.no

Webhotellet der innhaldet på Ryfylkeskulen ligg lagra (CloudLinux 8 /Apache) har en tilgangs- og feil-logg for å sikra drifta av systemet. Desse loggane går nokre dagar tilbake i tid, og her blir det registrert IP-adresser til dei som bruker Ryfylkeskulen.no, og kva nettsider dei lastar ned. Det blir ikkje logga opplysningar om kommunikasjonen mellom chatbot-tenesta og webhotellet, brukaridentitet eller innhaldet i chatbot-tenesta. Det blir heller ikkje logga bruk av sjølve chatbot-tenesta.

DPIA for bruk av chatbot-tenesta på Ryfylkeskulen.no

Innleiing

Det er mange brukarar av chatbot-tenesta, og brukarane er lærarar og elevar i RITS-kommunane Sauda, Suldal, Hjelmeland og Strand. Tenesta er anonym, og difor veit ingen kven av brukarane som er lærarar og kven som er elevar, og kor mykje dei ulike gruppene bruker chatbot-tenesta. Målet er at alle elevar og lærarar skal bruka tenesta til å læra om språkmodellar gjennom undervisninga i grunnskulen. Dette inneber at RITS-kommunane legg opp til at elevane skal bruka ein teknologi som er mykje omtala i media som problematisk og utfordrande. Dette er utgangspunktet for at me bør gjennomføra ein DPIA, sjølv om bruken av chatbot-tenesta er heilt anonym.

Dei tre risikoane me må vurdera i ein DPIA (jf. GDPR, Artikkel 35), er konsekvensane for den registrerte dersom

• uautoriserte får tilgang til personopplysningar,
• det skjer uønska endring av personopplysningane og
• data går tapt (personopplysningane blir utilgjengelege.

Sidan det ikkje blir behandla personopplysningar i chatbot-tenesta, er det heller ingen «registrerte». Det er likevel nokre situasjonar som bør vurderast. Dette gjeld særleg knytta til uautorisert tilgang til innhaldet i leietekstane lokalt hjå brukaren som skriv inn leieteksten, fordi leieteksten kan gje meining i ein kontekst når den viser i nettlesaren til brukaren, i motsetnad til kva den vil gjera når OpenAI lagrar leieteksten hjå seg i 30 dagar.

Tiltak for å redusera risiko

Tenesta er anonymisert

• All kommunikasjon mellom brukar, Ryfylkeskulen.no og OpenAI er heilt anonym.

• Sjølv om ein brukar vel å leggja igjen informasjon om konkrete personar i leieteksten, vurderer me – jamfør tidlegare grunngjevingar – at innhaldet i praksis likevel er anonymt, og me reknar ikkje dette som personopplysningar.

Organisatoriske sikkerheitstiltak

• Det er sett opp ansvarleg informasjonstryggleik i tenesta og utpeikt ein systemansvarleg.
• Lærarane får opplæring i korleis tenesta fungerer, før dei får ta den i bruk i undervisninga.
• Fagnettverk skule utarbeider opplæringsmateriell, både til lærarar og elevar.
• Systemansvarleg gjennomfører øvingar i korleis ein kan handtera driftsutfordringar i tenesta.
• Tenesta blir jamleg vedlikehalden og dokumentert.
• Det er berre redaksjonen i Ryfylkeskulen.no (fagnettverk skule) som har tilgang til administrasjonsmodulen i nettportalen.
• Det er berre leiar i fagnettverk skule som har tilgang til serveren og webhotellet.

Logiske sikkerheitstiltak

• Trafikken mellom nettlesaren, serveren og OpenAI er kryptert med standardkryptering for HTTPS-trafikk.
• Tenesta er anonym.
• Det er ingen autentisering utover enkel innlogging, fordi innlogging ikkje gjev tilgang til data og berre skal fungera som ein portvoktar mot unødig ressursbruk i chatbot-tenesta.
• Det blir tatt daglege tryggingskopiar av systemet, men det blir ikkje lagra leietekstar/svar frå chatbot-løysinga i systemet.

Fysiske sikkerheitstiltak

• Ingen fysiske sikkerheitstiltak er nødvendige, sidan det ikkje er kritisk om chatbot-tenesta ligg nede i nokre dagar.

Uautorisert tilgang

Kva kan dei største konsekvensane vera for den registrerte dersom uautoriserte får tilgang til data?

I verste fall kan uautoriserte personar lesa sjølvbiografiske opplysningar, som kan vera både sårbare og særskilde personopplysningar. Det kan vera vanskeleg å vita kven personopplysningane tilhøyrer, eller om opplysningane i det heile tatt er korrekte. Men dersom det er kjent kven personopplysningane tilhøyrer, eller at det har leke ut opplysningar som kan gjenkjennast, kan dette vera svært ubehageleg for den som opplysningane handlar om.

Kva er dei største truslane som kan føra til at uautoriserte får tilgang til data?

• Andre brukarar ser på skjermen til den som brukar chatbot-tenesta.
• Brukar går vekk frå eininga si med chatbot-tenesta open, utan å låsa skjermen.
• Teknisk feil på Ryfylkeskulen.no som gjer at chatteøktene blir rotete, og brukarar får sjå andre sine svar i sine sesjonar.
• Teknisk feil hjå OpenAI, som gjer lagra leietekstar tilgjengelege for uautoriserte.

Kva er dei ulike risikokjeldene?

• Medelevar er den viktigaste risikokjelda som kan ynskja å få uautorisert tilgang til andre sine data.
• Feil i programvara som driv chatbot-løysinga på Ryfylkeskulen.no.

Kva for identifiserte tryggingstiltak kan møta desse risikoane/utfordringane?

• Opplæringa, som inneheld eit punkt om at ein ikkje skal leggja inn biografiske opplysningar om seg sjølv eller andre i chatbot-tenesta.
• Jamleg oppdatering av chatbot-tenesta på Ryfylkeskulen.no.

Korleis vurderer me alvorsgraden av denne risikoen, sett i lys av moglege konsekvensar og planlagde rutinar? Kvifor?

Låg alvorsgrad.

Elevar vil ikkje skriva sjølvbiografiske opplysningar om seg sjølve når andre elevar er i nærleiken og kan lesa det som viser på skjermen deira.

Oppdateringar av chatbot-tenesta og Ryfylkeskulen.no blir alltid testa, slik at ein unngår unødige risikoar. Dersom tenesta ikkje fungerer som forventa, er det relativt enkelt å stenga chatbot-tenesta, eller å rulla tenesta tilbake til ein eldre versjon.

Korleis vurderer me sannsynet for denne risikoen, sett i lys av trugsmål, kjelder og planlagde rutinar? Kvifor?

Lågt sannsyn.

Elevar vil ikkje skriva sjølvbiografiske opplysningar om seg sjølve når andre elevar er i nærleiken og kan lesa det som viser på skjermen deira.

Oppdateringar av chatbot-tenesta og Ryfylkeskulen.no blir alltid testa, slik at ein unngår unødige risikoar. Dersom tenesta ikkje fungerer som forventa, er det relativt enkelt å stenga chatbot-tenesta, eller å rulla tenesta tilbake til ein eldre versjon.

Uønska endring av data

Kva kan dei største konsekvensane vera for dei registrerte dersom det skjer ei uønska endring av data?

Dei einaste opplysningane som kan endrast er leietekstane som blir lagra i 30 dagar hjå OpenAI. OpenAI har inga interesse av å endra leietekstane, og det har ingen konsekvensar for den registrerte dersom det skulle skje. Det er Ryfylke IT-samarbeid (RITS) som vil vera ansvarleg dersom OpenAI meiner at leietekstane inneheld misbruk av OpenAI sine tenester, sidan RITS er den einaste som kan identifiserast av OpenAI i samband med bruken av tenesta.

Kva er dei største truslane som kan føra til uønska endring av data?

Me har ikkje innsyn i kva vurderingar OpenAI har gjort rundt dette, og sidan endringar av data ikkje har konsekvensar for den registrerte, har me heller ikkje behov for å innhenta OpenAI sine vurderingar.

Kva er dei ulike risikokjeldene?

Me har ikkje innsyn i kva vurderingar OpenAI har gjort rundt dette, og sidan endringar av data ikkje har konsekvensar for den registrerte, har me heller ikkje behov for å innhenta OpenAI sine vurderingar.

Kva for identifiserte tryggingstiltak kan møta desse risikoane/utfordringane?

Dersom me inngår ein databehandlaravtale med OpenAI, kan me be om innsyn i deira risikovurderingar, men det er rimeleg sannsynleg at ein databehandlaravtale berre vil visa til ISO-godkjenningar, utan noko meir konkret innhald.

Korleis vurderer me alvorsgraden av denne risikoen, sett i lys av mogelege konsekvensar og planlagde rutinar? Kvifor?

Låg alvorsgrad. Endring av data vil ikkje få nokon konsekvens for den registrerte, sidan ingen brukar er registrert.

Korleis vurderer me sannsynet for denne risikoen, sett i lys av truslar, kjelder og planlagde rutinar? Kvifor?

Lågt sannsyn. Endring av data vil ikkje få nokon konsekvens for den registrerte, sidan ingen brukar er registrert.

Tap av data

Kva kan dei største konsekvensane vera for dei registrerte dersom data går tapt?

Det vil ikkje vera nokon konsekvens for dei registrerte dersom data går tapt. Det er berre OpenAI som lagrar data i 30 dagar. Dersom desse opplysningane går tapt, får det ingen konsekvens for verken den registrerte eller RITS-kommunane. Det er eine og åleine OpenAI si utfordring.

Dersom chatbot-tenesta eller nettportalen Ryfylkeskulen.no sluttar å fungera, eller internett-tilknytinga til kommunen fell ut, mistar brukarane tilgang til tenesta, men det er ingen informasjon som ligg lagra der som dei ikkje kan henta fram.

Kva er dei største truslane som kan føra til tap av data?

Me har ikkje innsyn i kva vurderingar OpenAI har gjort rundt dette, og sidan tap av data ikkje har konsekvensar for den registrerte, har me heller ikkje behov for å innhenta OpenAI sine vurderingar.

Kva er dei ulike risikokjeldene?

Me har ikkje innsyn i kva vurderingar OpenAI har gjort rundt dette, og sidan tap av data ikkje har konsekvensar for den registrerte, har me heller ikkje behov for å innhenta OpenAI sine vurderingar.

Kva for identifiserte tryggleikstiltak kan møta desse risikoane/utfordringane?

Det blir automatisk lagra ein tryggingskopi av innhaldet på Ryfylkeskulen.no kvar natt, og desse tryggingskopiane blir lagra i inntil 30 dagar før dei blir automatisk sletta. Tryggingskopiane lagrar berre innhaldet på Ryfylkeskulen.no, og tek aldri vare på leietekstar og svar frå chatbot-løysinga.

Korleis vurderer me alvorsgraden av denne risikoen, sett i lys av moglege konsekvensar og planlagde rutinar? Kvifor?

Låg alvorsgrad. Det har ingen konsekvens for den registrerte dersom data blir sletta eller går tapt.

Korleis vurderer me sannsynet for denne risikoen, sett i lys av truslar, kjelder og planlagde rutinar? Kvifor?

Lågt sannsyn. Det har ingen konsekvens for den registrerte dersom data blir sletta eller går tapt.

Kor trygg er chatbot-tenesta for elevar under 13 år

Me har testa GPT-språkmodellane sidan dei blei tilgjengelege, både som gratisutgåva i Chat GPT, og som betalt teneste via API med ein bedriftsavtale hjå Open AI.

Lærarane som skal bruka chatbot-tenesta i undervisninga, vil få beskjed om korleis dei kan hjelpa elevane til å forstå kva ein språkmodell er, og korleis ein språkmodell fungerer. Informasjon om språkmodellane sine styrker og svakheiter ligg òg lett tilgjengeleg saman med sjølve chatbot-tenesta.

OpenAI har i tillegg innebygd moderasjon og andre sikringar, både for det som står i leietekstane, og det som OpenAI gjev som svar på leietekstane. Difor er svara frå OpenAI som hovudregel alltid mykje sikrare og tryggare enn det elevane får tilgang til dersom dei googlar eit tema.

OpenAI har mellom anna programmert inn følgjande retningsliner for språkmodellane sine, for å ivareta tryggleiken til brukarane og oppretthalda ein respektfull samtale:

• Respekt og ikkje-diskriminering: Språkmodellen er trent opp til å oppmoda til respektfull kommunikasjon og til å unngå diskriminerande, hatefulle eller skadelege ytringar.
• Ingen oppmuntring til farlege handlingar: Språkmodellen vil ikkje gje råd eller oppmuntra til farlege eller skadelege handlingar, inkludert sjølvmord eller vald.
• Personleg informasjon: Språkmodellen vil ikkje be om eller lagra personleg informasjon om brukarar.
• Passord og annan sensitiv informasjon: Språkmodellen vil ikkje be om passord, kredittkortinformasjon eller andre sensitive data.
• Oppmoding til å be om hjelp: Dersom ein brukar gjev uttrykk for å vera i krise eller treng hjelp, vil språkmodellen oppmoda brukaren til å be om profesjonell hjelp og tilby kontaktinformasjon til relevante hjelpeorganisasjonar.

Sjølvsagt kan me ikkje vera heilt sikre på at alle svar blir behandla godt nok, sidan me ikkje lagrar leietekstar og svar, og at me ikkje kan kontrollera alt som blir gjort på Ryfylkeskulen.no.

Basert på denne vurderinga, meiner me at det er trygt for barn under 13 år å bruka tenesta. Barna får opplæring av lærarane sine, er heilt anonyme når dei bruker chatbot-tenesta, og dersom dei skriv utfordrande leietekstar, vil dei automatisk få svar som Open AI har programmert inn i språkmodellane for å gjera dei tryggare å bruka.

Ei kort vurdering av andre språkmodellar i undervisninga

ChatGPT – både gratis- og pluss-utgåva – kan ikkje nyttast i skulen ut frå omsyn til personvernet, og kan dermed ikkje brukast av elevar. Lærarar kan personleg velja å bruka det i undervisninga til demonstrasjon for elevane, men elevane kan ikkje bruka det, og læraren kan ikkje leggja inn verken elev-arbeid eller faglitteratur som leietekst.

Copilot (Microsoft) og Gemini (Google) har dei same utfordringane som ChatGPT når det gjeld personvern og bruk i skulen. Copilot hevdar sjølv at personlege opplysningar og kommunen sine opplysningar er beskytta, men Ryfylke IT-samarbeid har ikkje signert eller godkjent nokon avtale om bruk av Copilot.

My AI (Snapchat) har endå større utfordringar enn alle dei andre språkmodellane med tanke på personvern, både når det gjeld privat bruk og bruk i skulen.

Eigne tenarar med LLaMA eller StableLM er òg mogleg, men desse språkmodellane er meir for å bevisa at konseptet fungerer, enn å vera fungerande språkmodellar til bruk i undervisninga. Dessutan er dei dyre å setja opp, fordi desse tenestene må driftast på eigne serverar.

Fininnstilling er ikkje aktivert

OpenAI gjev oss høve til å lasta opp eige materiale, og bruka dette til fininnstilling av språkmodellane. Chatbot-tenesta på Ryfylkeskulen.no bruker ikkje eige opplasta materiale.

Oppsummering

All behandling av leietekstar/fritekstfelt er heilt anonymisert.

Det blir ikkje lagra opplysningar om brukarar, leietekst, svar eller loggar på webhotellet til Ryfylkeskulen.no.

Leietekstar inneheld berre ustrukturert informasjon, og ikkje personopplysningar, sidan det ikkje er mogleg å kopla innhaldet i leietekstane til verifiserte opplysningar.

RITS-kommunane har ikkje lasta opp informasjon til OpenAI for å kunna fininnstilla språkmodellane.

OpenAI bruker ikkje leietekstane som kjem frå Ryfylkeskulen.no til å trena GPT-modellane eller forbetra tenesta som dei leverer.

OpenAI lagrar leietekstane i inntil 30 dagar, med føremål og grunngjeving om å hindra misbruk av tenesta. Dette er eit legitimt behov for OpenAI, og fører ikkje til utfordringar for våre brukarar, sidan leietekstane ikkje inneheld personopplysningar.

Med tanke på personvernet, er chatbot-tenesta på Ryfylkeskulen.no førebels den tryggaste og minst invasive løysinga for å få tilgang til språkmodellar. Denne chatbot-tenesta er i tillegg godt tilpassa for bruk i undervisninga.