Robert M. Davison, Hameed Chughtai, Petter Nielsen, Marco Marabelli, Federico Iannacci, Marjolein van Offenbeek, Monideepa Tarafdar, Manuel Trenz, Angsana A. Techatassanasoontorn, Antonio Díaz Andrade, Niki Panteli
First published: 21 January 2024
Fremheving
Bruken av generativ kunstig intelligens (GAI) til kvalitativ dataanalyse reiser flere etiske spørsmål som forskere må vurdere nøye. Disse spørsmålene omfatter dataeierskap og -rettigheter, personvern og åpenhet, tilstrekkelig tolkning, skjevheter som manifesteres i GAI, samt forskerens ansvar og handlefrihet.
Overlevering av forskningsdata til kommersielle GAI-plattformer i bytte mot automatiserte analyser kan være i strid med datarettigheter og konfidensialitetsavtaler med forskningsdeltakere og organisasjoner.
Bruk av GAI til analyse reiser personvernproblemer når sensitive data deles med AI-verktøy, spesielt hvis deltakere og organisasjoner ikke er informert om eller ikke gir samtykke til denne datautvekslingen.
Det å basere seg for mye på GAI for koding og analyse har sine begrensninger, ettersom GAI mangler den kontekstuelle forståelsen, empatien og bevisstheten til menneskelige forskere, noe som er avgjørende for å kunne gå i dybden i kvalitative tolkninger.
GAI-modeller kan inneholde sosiale fordommer, stereotypier og privilegerte vestlige perspektiver som forplanter seg i de automatiserte analyseresultatene på måter som det er vanskelig å kritisk undersøke og korrigere.
Forskere har et epistemisk ansvar for å stå til ansvar for bevisene og påstandene de fremsetter. Blind anvendelse av GAI uten menneskelig medvirkning og tilsyn anses som uetisk. Forskeren må opprettholde forfatterskap og ansvarlighet.
Faste etiske retningslinjer for bruk av GAI er ikke hensiktsmessig med tanke på den raske utviklingen av teknologien. I stedet bør det utvikles et sett med "levende retningslinjer" gjennom en løpende dialog for å gjøre det lettere å navigere i den etiske kompleksiteten.
Sammendrag
Det er viktig å merke seg at teksten i denne lederartikkelen i sin helhet er skrevet av mennesker uten bidrag eller assistanse fra generativ kunstig intelligens (GAI). Redaktøren av ISJ (Robert M. Davison) ble kontaktet av en av ISJs Associate Editors (AE) (Marjolein van Offenbeek), som forklarte at den kvalitative dataanalyseprogramvaren ATLAS.ti tilbød en gratis analyse av forskningsdata hvis forskeren delte de samme dataene med ATLAS.ti for opplæring i analyseverktøyet GAI 1. Marjolein mente at dette skapte et etisk dilemma. Robert videresendte Marjoleins e-post til ISJs Senior Editors (SEs) og Associate Editors (AEs) og ba om deres kommentarer. Ni av SE- og AE-redaktørene svarte med tilbakemeldinger. Vi (de 11 forfatterne som bidro) gikk deretter et par runder med idémyldring før vi samlet teksten i et felles dokument. Dette ble i første omgang laget av Hameed Chughtai, men ble deretter kommentert og redigert av alle medlemmene i teamet. Den endelige versjonen utgjør den felles oppfatningen til de 11 teammedlemmene, etter flere diskusjonsrunder. Det er viktig å understreke at de 11 forfatterne har ulike syn på hvorvidt GAI bør brukes i kvalitative dataanalyser, men vi har oppnådd bred enighet om de etiske spørsmålene knyttet til denne bruken av GAI. Selv om mange andre temaer knyttet til bruk av GAI i forskning kunne vært diskutert, for eksempel hvordan GAI kan brukes effektivt i kvalitative analyser, mener vi at etiske problemstillinger overskygger mange av disse andre temaene. I denne lederartikkelen fokuserer vi derfor utelukkende på etikken knyttet til bruk av GAI til kvalitativ dataanalyse.
Yorumlar