'Otroligt verktyg men AI har inte alltid rätt'

Karl Henrik Johansson har genom sin utbildning och forskarkarriär gått sida vid sida med AI i olika former och sett AI växa på såväl KTH som i var persons vardag världen över. Reglerteknik, systemteknik, autonoma system, till exempel självkörande bilar, och robotar som samspelar med människor och varandra är några av de saker han forskat på och arbetat med.

Samhällets omvandling

Han är också föreståndare för Digital Futures , en forskningsmiljö, med över hundra forskningsprojekt och ett par hundra forskargrupper. Med ett tvärvetenskapligt och samarbetsinriktat angreppssätt arbetar de med olika aspekter av digitalisering för att möta de utmaningar och den transformation samhället står inför.

Energi, transporter, hälsa, samhällsplanering är några av de områden där KTH:s forskare använder AI - i stort sett alla områden där människan är, lever och rör sig.

- Vi har en stor bredd och tradition på området och är långt framme.

Karl Henrik Johansson tar utvecklingen av bilen som ett exempel på hur fort utvecklingen gått och går.

- För 30 år sedan var bilen en bil, nu är den det till det yttre men innanmätet liknar mer en Ipad med AI-teknik integrerad i varje del som ska samspela med en förare.

Han tar ett annat perspektiv där bilen i sig snarare är en komponent i ett transportsystem som styrs någon annanstans ifrån med hjälp av AI.

- Då uppkommer genast en rad etiska dilemman utifrån kulturella och säkerhetsmässiga aspekter. Om tekniken blir tillräckligt säker - ska en femåring kunna ha körkort i framtiden? Kan AI förutsäga blixthalka? frågar han retoriskt och konstaterar i förbifarten:

- Människan kan konsten att anpassa sig efter miljön, något maskiner generellt sett är dåliga på.

Se mönstren

Framsidan kring allt man kan åstadkomma med AI för samhällets utveckling är enorm - inte minst med tanke på just människors tillvaro, enligt Karl Henrik Johansson. Effektivare energilösningar, smartare städer, hållbarare transporter, hälsofrämjande lösningar- listan kan göras väldigt lång både kring systemlösningar och på individnivå.

- Vi har hur mycket data som helst att tillgå. Det svåra är inte att samla in data utan det gäller att se mönstren och att få maskiner att fatta tillförlitliga beslut som bygger på dem.

Ett vanligt exempel på så kallad generativ AI är ChatGPT som allt fler använder på jobb och fritid oavsett bransch.

AI gör sorteringar åt oss av diverse slag. Men vad säger att det som ChatGPT till exempel svarar är sant?

- Ingenting egentligen. Men det vi nu forskar på är att se hur vi kan garantera att resultaten stämmer och genererar säkra lösningar.

Karl Henrik Johansson använder ChatGPT själv till husbehov - kanske framförallt när han ska skriva brev och behöver lite inspiration till några formuleringar. Han slås ofta av hur amerikaniserat brevet kan bli eftersom det mesta som språkmodellen är tränad på är just amerikansk text.

Om ChatGPT genererar ny text som den sedan tränas på, kan det inte odla ett likformigt språk och kanske på sikt till och med ett likformigt tänkande? Vi blir mer ensidiga och korkade?

- Precis! Detta fenomen beskrevs och förklarades matematiskt i en Nature-artikel i somras, så det finns många aspekter av AI där vi behöver bygga upp en bättre och grundläggande förståelse. Det är ju vi som är med och driver utvecklingen och ser till att användningen sker på ett förnuftigt sätt genom att hela tiden tänka ett steg till med kritisk blick.

Hur ser AI ut om tio år?

- Det är naturligtvis omöjligt att svara på, men att det kommer att transformera KTH:s forskning och utbildning. AI är på många sätt samhällsomstörtande- men det är vår uppgift att se till att vi använder det för att göra saker bättre och för rätt syften.

Karl Henrik Johansson föreslår att vid en eventuell framtida intervju kan vi vara tre i samtalet - som ett sätt att också hålla kreativiteteten vid god vigör.

- Ja, eller när våra studenter eller för den delen forskare ska lösa något- då kan en robotassistent vara med och spåna.

Fotnot: Professor Balthazar är en animerad serie från 1960-talet. Professorn löste alla möjliga problem med hjälp av en universalmaskin. Han konstruerar bland annat en flygande tvättmaskin att användas vid behov.

Natureartikeln: Shumailov, I., Shumaylov, Z., Zhao, Y. et al. AI models collapse when trained on recursively generated data. Nature 631, 755-759 (2024).

Text: Jill Klackenberg
Foto: Theresia Köhlin

https://www.nature.com/articles/s41586-024-07566-y

Public link

Please use the above public link if you want to share this noodl on another website.