Generatiewe kunsmatige intelligensie (KI): WGO reik nuwe riglyne oor bestuur van LMM's uit

WIE het nuwe riglyne uitgereik oor die etiek en bestuur van groot multi-modale modelle (LMMs) vir die toepaslike gebruik daarvan om die gesondheid van bevolkings te bevorder en te beskerm. LMM's is 'n soort vinnig groeiende generatiewe kunsmatige intelligensie (KI) tegnologie wat vyf breë toepassings vir gesondheid het in 

1. Diagnose en kliniese sorg, soos om op pasiënte se geskrewe navrae te reageer; 

2. Pasiëntgeleide gebruik, soos om simptome en behandeling te ondersoek; 

3. Klerklike en administratiewe take, soos die dokumentasie en opsomming van pasiëntbesoeke binne elektroniese gesondheidsrekords; 

4. Mediese en verpleegonderrig, insluitend die voorsiening van gesimuleerde pasiëntontmoetings aan leerlinge, en; 

5. Wetenskaplike navorsing en geneesmiddelontwikkeling, insluitend om nuwe verbindings te identifiseer. 

Hierdie toepassings in gesondheidsorg loop egter die risiko om vals, onakkurate, bevooroordeelde of onvolledige verklarings te lewer, wat mense kan benadeel wat sulke inligting gebruik om gesondheidsbesluite te neem. Verder kan LMM'e opgelei word op data wat van swak gehalte of bevooroordeeld is, hetsy deur ras, etnisiteit, afkoms, geslag, geslagsidentiteit of ouderdom. Daar is ook breër risiko's vir gesondheidstelsels, soos toeganklikheid en bekostigbaarheid van die beste presterende LMM's. LMM'e kan ook 'outomatiseringsvooroordeel' deur gesondheidsorgpersoneel en pasiënte aanmoedig, waardeur foute oor die hoof gesien word wat andersins geïdentifiseer sou word of moeilike keuses onbehoorlik aan 'n LMM gedelegeer word. LMM's, soos ander vorme van AI, is ook kwesbaar vir kuberveiligheidsrisiko's wat pasiëntinligting of die betroubaarheid van hierdie algoritmes en die verskaffing van gesondheidsorg in die breë kan in gevaar stel. 

Daarom, om veilige en doeltreffende LMM's te skep, het die WGO aanbevelings gemaak vir regerings en ontwikkelaars van LMM's. 

Regerings het die primêre verantwoordelikheid om standaarde te stel vir die ontwikkeling en ontplooiing van LMM's, en hul integrasie en gebruik vir openbare gesondheid en mediese doeleindes. Regerings behoort te belê in of nie-winsgewende of openbare infrastruktuur, insluitend rekenaarkrag en publieke datastelle, toeganklik vir ontwikkelaars in die openbare, private en nie-winsgewende sektore te voorsien, wat vereis dat gebruikers aan etiese beginsels en waardes in ruil vir toegang. 

· Gebruik wette, beleide en regulasies om te verseker dat LMM'e en toepassings wat in gesondheidsorg en medisyne gebruik word, ongeag die risiko of voordeel verbonde aan die AI tegnologie, voldoen aan etiese verpligtinge en menseregtestandaarde wat byvoorbeeld 'n persoon se waardigheid, outonomie of privaatheid raak. 

· Wys 'n bestaande of nuwe regulatoriese agentskap toe om LMM's en toepassings wat bedoel is vir gebruik in gesondheidsorg of medisyne te assesseer en goed te keur - soos hulpbronne dit toelaat. 

· Stel verpligte ouditering en impakbeoordelings na vrystelling in, insluitend vir databeskerming en menseregte, deur onafhanklike derde partye wanneer 'n LMM op groot skaal ontplooi word. Die oudit- en impakbeoordelings moet gepubliseer word 

en moet uitkomste en impakte insluit wat volgens die tipe gebruiker uiteengesit word, insluitend byvoorbeeld volgens ouderdom, ras of gestremdheid. 

· LMM'e word nie net deur wetenskaplikes en ingenieurs ontwerp nie. Potensiële gebruikers en alle direkte en indirekte belanghebbendes, insluitend mediese verskaffers, wetenskaplike navorsers, gesondheidswerkers en pasiënte, moet van die vroeë stadiums van AI ontwikkeling in gestruktureerde, inklusiewe, deursigtige ontwerp en gegewe geleenthede om etiese kwessies te opper, bekommernisse uit te spreek en insette te lewer vir die AI aansoek word oorweeg. 

LMM's is ontwerp om goed gedefinieerde take uit te voer met die nodige akkuraatheid en betroubaarheid om die kapasiteit van gesondheidstelsels te verbeter en pasiëntbelange te bevorder. Ontwikkelaars moet ook in staat wees om potensiële sekondêre uitkomste te voorspel en te verstaan. 

*** 

Bron: 

WGO 2024. Etiek en bestuur van kunsmatige intelligensie vir gesondheid: leiding oor groot multi-modale modelle. Beskikbaar by https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***