AI, IT arkitektur
Vad trendar på ditt område Milan Kratochvil?
Informator och Milan har ett mångårigt samarbete kring arkitektur, modularitet, modeller, och under de senaste tolv åren också AI – först Configure-to-order för modulära produkter, förkortat C2O, och några år senare AI och ML ur arkitektperspektiv. Det händer mycket på Milans områden, för ett år sen kollade vi läget med Milan för att se vad som trendar på hans område och nu ett år senare tyckte vi det var dags igen. Här är Milans svar:
Vad ser du för trender på området?
Många, inte minst kopplingar mellan IT-arkitektur och AI. Över 90% av allt jag svarade senast gäller även i år.
Till globala trender som gynnat Norden (industri 4.0 , medicin, läkemedel) räknar jag nu för Sveriges del också en högkompetent försvarssektor. Det finns även en ny Informatorblogg om avionik med elektroniskt skydd i Saab Gripen/E, ur en civil IT-arkitekts Edge-perspektiv. Såväl i civila som i försvarstillämpningar spar lokala ML- och sensorfusions-algoritmer (för multimodal AI) svarstider, last i molnet, energi, ”network footprint” inklusive säkerhetsrisker under dataöverföring, med mera. Trenden mot lokal ML leder till att endast relevant aggregerad statistisk data sänds till molnet för lagring (eller för harmonisering, i Federated Learning).
Vad tycker du själv är mest spännande på området just nu?
– Min yrkesbana har handlat om att åskådliggöra struktur (vad system handlar om) och beteende (hur de gör). Från animeringsverktyg för 2000-talets modeller och programkod har trenden gått vidare till fallbaserade förklaringar (case based explanation). Så likheten mellan avståndet från Deep learning till eXplainable AI och fötterna i stuntmannen van Damme’s virala Volvo-stunt The Epic Split gäller fortfarande: fötterna övergår nu sakta från split till normalläge, där eXplainable AI blivit centralt för acceptans av AI i både privat och offentlig sektor.
Dels har vi AI-standardiseringsarbetet inom bl a Object Management Group (annars mest känd för modelleringsstandarderna UML och SysML) och deras AI-Platform Task Force. Och dels har vi två trender som förstärker varandra inom tolkning och förklaring av inferens, dvs av slutsatsdragningen i neurala nät från input till slutsats (ouput) : mer tvärvetenskapliga team i XAI, vilket breddar ”vertygslådan” från förklaring som ett separat extrasteg (till exempel Generative Adversarial Networks, GAN) till tonvikt på utveckling av neurala nät som kan själva förklara sig för människa (self-interpretable networks), som i sin tur leder till ännu mer tvärvetenskapliga team, osv. i en god cirkel. Studier av acceptans har visat att förklaring är något de flesta kräver, men samtidigt påverkas deras tilltro till systemet på kort sikt marginellt eller inte alls (jämfört med system som är en ”svart låda”). I längden däremot kan användarvänliga verktyg, som till exempel software flight recorders och animatorer, påverka även tilltron.
Och regleringar?
Javisst, IT-arkitekter, datavetare, AI-specialister, säkerhetsansvariga m.fl. kommer att beröras av flera nya lagar och förordningar, särskilt i Europa men även i Kanada och USA. Så till exempel, för att återknyta till förra frågan, även rätten till begriplig förklaring är på väg att bli en lagstadgad rättighet i ett antal länder.
Related courses:
AI, Architecture, and Machine Learning
Agile Architechture Fundamentals
Avancerad objektmodellering med UML
Trainer at Informator, senior modeling and architecture consultant at Kiseldalen’s, main author: UML Extra Light (Cambridge University Press) and Growing Modular (Springer). Advanced UML2 Professional (OCUP cert level 3/3).
Milan and Informator collaborate since 1996 on architecture, rules, AI, modeling, UML, requirements, and design. You can meet him this year at public courses, in English or Swedish (remote participation is offered, encouraged, and currently highly recommended by epidemiology experts).
