Kunstig intelligens kan accelerere videnskabelig svindel

I et mødelokale hos Royal Society i London blev en stor gruppe kandidatstuderende for nylig sat til at prøve at narre en stor sprogmodel – den type kunstige intelligens, der er designet til at føre samtaler.

Sprogmodellerne er ofte programmeret med sikkerhedsforanstaltninger for at forhindre dem i at give svar, der anses for skadelige, som for eksempel instruktioner til at lave bomber eller selvsikre påstande om ‘fakta’, der slet ikke er sande.

Målet med sessionen, der blev arrangeret af Royal Society i samarbejde med den amerikanske ngo Humane Intelligence, var at bryde igennem disse sikkerhedsforanstaltninger.