Webinar: Kunstig intelligens og fremtidens digitale sikkerhet

Sikkerhetsleder i F24, Jan Terje Sæterbø holdt et interessant innlegg om skjæringspunktet mellom kunstig intelligens og digital sikkerhet.

Kunstig intelligens (KI) har allerede endret spillereglene for digital sikkerhet og representerer et paradigmeskifte. Teknologien gir enorme muligheter for beskyttelse, men representerer samtidig et kraftig våpen for dem som ønsker å skade. Under webinaret belyste vi hvordan KI påvirker trusselbildet, hvilke regulatoriske krav som kommer, og hvordan virksomheter og privatpersoner kan forberede seg.

Et våpenkappløp i cyberspace

Utviklingen går raskt. Der vi tidligere snakket om tradisjonelle angrep, ser vi nå et kappløp mellom forsvarere og angripere som begge tar i bruk stadig mer avansert KI. Angrepsflaten for å gjennomføre sofistikerte angrep er senket betraktelig og for virksomheter kan dette bety mer autonome sikkerhetssystemer og tettere integrasjon av KI i ressursene man bruker til daglig. KI blir ikke lenger et separat verktøy, det blir en del av infrastrukturen.

Regulering og ansvarlig bruk

EU’s AI Act vil sannsynligvis tre i kraft i løpet av et par år, og vil stille krav til innebygd personvern, sikkerhet i design og kontrollmekanismer for å håndtere feil eller skadelige utfall. Virksomheter må forberede seg på nye regulatoriske rammer og etablere styringsmodeller for ansvarlig bruk av KI.

Hva betyr dette for privatpersoner?

KI muliggjør automatisert trusseldeteksjon og styrket beskyttelse av sluttbrukerne, men medfører samtidig en skjerpet risiko knyttet til personvernbrudd, målrettet desinformasjon og avansert svindel. Derfor blir kildekritikk og digital kompetanse avgjørende. Vi må alle stille oss spørsmålet: «Er dette ekte eller falskt?», en refleks som har blitt langt mer relevant enn for bare få år siden.

Veien videre

Fremtidens digitale forsvar krever strategisk balanse mellom mulig bruk av kunstig intelligens, samtidig som man må være forberedt på å håndtere risikoene dette kan medføre seg. For å oppnå styrket digital motstandskraft burde virksomheter etablere en helhetlig styringsmodell der man ser på integrasjon av teknologi, etisk rammeverk, samtidig som man inkluderer kritisk menneskelig dømmekraft.

Vi takker alle deltakerne for engasjementet og ser frem til å fortsette dialogen om hvordan vi sammen kan sikre en trygg digital fremtid.