Verktøyets natur

Kunstig intelligens kan analysere mønstre, generere forslag og automatisere oppgaver. Den kan ikke gjøre et mål godt bare ved å forfølge det effektivt. Mennesker velger målet, dataene, grensene og hvem som bærer konsekvensene.

Derfor er spørsmålet ikke om teknologien er god eller ond, men hvilke beslutninger den får påvirke og hvor lett feil kan oppdages og korrigeres.

Makt og innsyn

Risikoen øker når en modell brukes i beslutninger som rammer mennesker uten at begrunnelsen kan prøves. Automatisering bør aldri bli et skjold mot ansvar. Den som tar systemet i bruk, må fortsatt kunne forklare resultatet og behandle en klage.

Samtidig kan åpne verktøy spre kompetanse og utfordre gamle monopoler. Regulering som bare de største aktørene har råd til, kan derfor styrke den konsentrasjonen den skulle begrense.

Prinsipper for bruk

Bevar menneskelig ansvar, krev etterprøvbarhet der innsatsen er høy, og skill mellom hjelp til en beslutning og selve beslutningen. Beskytt privat informasjon og gjør det tydelig når innhold er maskinlaget.

Et godt verktøy utvider menneskets evne til å undersøke. Et dårlig system gjør det lettere å handle uten å forstå.