WIE het nuwe riglyne uitgereik oor die etiek en bestuur van groot multi-modale modelle (LMMs) vir die toepaslike gebruik daarvan om die gesondheid van bevolkings te bevorder en te beskerm. LMM's is 'n soort vinnig groeiende generatiewe kunsmatige intelligensie (KI) tegnologie wat vyf breë toepassings vir gesondheid het in
1. Diagnose en kliniese sorg, soos om op pasiënte se geskrewe navrae te reageer;
2. Pasiëntgeleide gebruik, soos om simptome en behandeling te ondersoek;
3. Klerklike en administratiewe take, soos die dokumentasie en opsomming van pasiëntbesoeke binne elektroniese gesondheidsrekords;
4. Mediese en verpleegonderrig, insluitend die voorsiening van gesimuleerde pasiëntontmoetings aan leerlinge, en;
5. Wetenskaplike navorsing en geneesmiddelontwikkeling, insluitend om nuwe verbindings te identifiseer.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Daarom, om veilige en doeltreffende LMM's te skep, het die WGO aanbevelings gemaak vir regerings en ontwikkelaars van LMM's.
Regerings het die primêre verantwoordelikheid om standaarde te stel vir die ontwikkeling en ontplooiing van LMM's, en hul integrasie en gebruik vir openbare gesondheid en mediese doeleindes. Regerings behoort te belê in of nie-winsgewende of openbare infrastruktuur, insluitend rekenaarkrag en publieke datastelle, toeganklik vir ontwikkelaars in die openbare, private en nie-winsgewende sektore te voorsien, wat vereis dat gebruikers aan etiese beginsels en waardes in ruil vir toegang.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Wys 'n bestaande of nuwe regulatoriese agentskap toe om LMM's en toepassings wat bedoel is vir gebruik in gesondheidsorg of medisyne te assesseer en goed te keur - soos hulpbronne dit toelaat.
· Stel verpligte ouditering en impakbeoordelings na vrystelling in, insluitend vir databeskerming en menseregte, deur onafhanklike derde partye wanneer 'n LMM op groot skaal ontplooi word. Die oudit- en impakbeoordelings moet gepubliseer word
en moet uitkomste en impakte insluit wat volgens die tipe gebruiker uiteengesit word, insluitend byvoorbeeld volgens ouderdom, ras of gestremdheid.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM's is ontwerp om goed gedefinieerde take uit te voer met die nodige akkuraatheid en betroubaarheid om die kapasiteit van gesondheidstelsels te verbeter en pasiëntbelange te bevorder. Ontwikkelaars moet ook in staat wees om potensiële sekondêre uitkomste te voorspel en te verstaan.
***
Bron:
WGO 2024. Etiek en bestuur van kunsmatige intelligensie vir gesondheid: leiding oor groot multi-modale modelle. Beskikbaar by https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
