Ha Judith,

De eerste week van September voelt vaak bijna als 1 Januari. Al zijn de vakanties (al een tijdje) voorbij en al zijn we al een aantal weken in voorbereiding, zo’n eerste week voelt als een echte start. Na de sportzomer die we hebben gezien is het een beetje zoals de start van de echte wedstrijd. Niet meer trainen, niet meer voorbereiden maar gewoon gaan. Na een geweldige sportzomer, die eigenlijk met de Vuelta en de Paralympische Spelen nog bezig is, zijn we weer gestart met een nieuw schooljaar!

Een start voor mij met wederom, je kent me, 1000 dromen, 500 actieplannen, 250 goede voornemens, 125 mensen die ik nog zou willen ontmoeten het komende jaar, 32 ideeën (per dag), 4 verschllende organisaties waar ik momenteel voor werk (Zuyd-ADSAI, Zuyd-DI-Lab, TETRA-AI en DataTales), 1 Comenius project en 1 PhD-traject (ja inderdaad hij is er nog steeds).

ADSAI

Afgelopen maandag was mijn eerste kennismaking met de nieuwe studenten Applied Data Science & AI, die we namens Zuyd in Maastricht en Heerlen gaan opleiden tot nieuwe professionals voor onze mooie regio. Ongeveer 50 studenten waarvan de helft uit Nederland, en van de 50 ook 1/3e een dame. Een mix van nieuwsgierige, leergierige, avontuurlijke mensen, die we in het MECC welkom hebben geheten en waar we in Randwyck mee aan de slag gaan de komende tijd. Dit zijn de de “Big Brothers” Judith waarover je schreef. Of eigenlijk zijn dit de mensen die in staat zijn de technologie te bedenken, maken, installeren die het Big Brotherschap mogelijk maken. Juist wij, als opleiding, zullen dat slim proberen aan te pakken, juist wij gaan met deze nieuwe generatie probleemoplossers praten over ethiek, over integriteit, over wat kan en wat mag en over wat verstandig is. En weet ik hoe het zal aflopen, nee. Maar ik ben in goed gezelschap. In 2015 kwamen de grote der AI ter aarde in Puerto Rico bij elkaar en zijn gaan praten over AI in de toekomst. Tijdens die gesprekken werd het duidelijk dat er verschillende “groepen” zijn, ook onder de AI experts. Sommige gaan er van uit dat AI de wereld zal overnemen, anderen denkend dat het alleen maar goed gaat doen en dat wij mensen verstandige dingen er meer zullen blijven doen. Sommige gaan er vanuit dat AI zo autonoom wordt dat het ons voorbij streeft, zoals wij de Gorilla. Anderen houden de Human in de Loop en vertrouwen op de menselijke kracht. In 2017 is, als resultaat van samenwerkingen die gestart zijn tijdens die conferentie, de Asilomar AI-principes:

Onderzoeksproblemen

1. Onderzoekdoel: Het doel van AI-onderzoek moet niet zijn om ongerichte intelligentie te creëren, maar om nuttige intelligentie te ontwikkelen.
2. Onderzoeksfinanciering: Investeringen in AI moeten gepaard gaan met financiering voor onderzoek om het gunstige gebruik ervan te waarborgen, inclusief uitdagende vraagstukken op het gebied van informatica, economie, recht, ethiek en sociale studies, zoals:
   • Hoe kunnen we toekomstige AI-systemen zeer robuust maken, zodat ze doen wat we willen zonder te falen of gehackt te worden?
   • Hoe kunnen we onze welvaart vergroten door automatisering, terwijl we de middelen en het doel van mensen behouden?
   • Hoe kunnen we ons rechtssysteem aanpassen om eerlijker en efficiënter te worden, zodat het gelijke tred houdt met AI en de risico’s beheert die ermee gepaard gaan?
3. Wetenschap-beleid-koppeling: Er moet een constructieve en gezonde uitwisseling plaatsvinden tussen AI-onderzoekers en beleidsmakers.
4. Onderzoekcultuur: Er moet een cultuur van samenwerking, vertrouwen en transparantie worden bevorderd onder onderzoekers en ontwikkelaars van AI.
5. Wedloop vermijden: Teams die AI ontwikkelen, moeten actief samenwerken om te voorkomen dat er concessies worden gedaan aan veiligheidsnormen.

Ethiek en Waarden

6. Veiligheid: AI-systemen moeten gedurende hun hele levensduur veilig en beveiligd zijn, en waar toepasbaar en haalbaar ook verifieerbaar zijn.
7. Transparantie bij falen: Als een AI-systeem schade veroorzaakt, moet het mogelijk zijn om te achterhalen waarom.
8. Transparantie in rechtspraak: Elke betrokkenheid van een autonoom systeem bij gerechtelijke besluitvorming moet een bevredigende uitleg kunnen geven die controleerbaar is door een bevoegde menselijke autoriteit.
9. Verantwoordelijkheid: Ontwerpers en bouwers van geavanceerde AI-systemen zijn belanghebbenden in de morele implicaties van hun gebruik, misbruik en acties, met de verantwoordelijkheid en mogelijkheid om die implicaties vorm te geven.
10. Waardenafstemming: Hoog-autonome AI-systemen moeten zo worden ontworpen dat hun doelen en gedrag gedurende hun werking gegarandeerd in overeenstemming zijn met menselijke waarden.
11. Menselijke waarden: AI-systemen moeten worden ontworpen en geëxploiteerd op een manier die in overeenstemming is met idealen van menselijke waardigheid, rechten, vrijheden en culturele diversiteit.
12. Persoonlijke privacy: Mensen moeten het recht hebben om toegang te hebben tot, te beheren en controle uit te oefenen over de gegevens die ze genereren, gezien het vermogen van AI-systemen om die gegevens te analyseren en te gebruiken.
13. Vrijheid en privacy: De toepassing van AI op persoonlijke gegevens mag de werkelijke of waargenomen vrijheid van mensen niet onredelijk beperken.
14. Gedeeld voordeel: AI-technologieën moeten zoveel mogelijk mensen ten goede komen en hen versterken.
15. Gedeelde welvaart: De economische welvaart die door AI wordt gecreëerd, moet breed worden gedeeld om de hele mensheid ten goede te komen.
16. Menselijke controle: Mensen moeten kunnen kiezen hoe en of ze beslissingen aan AI-systemen delegeren, om menselijk gekozen doelen te bereiken.
17. Niet-ondermijning: De macht die voortvloeit uit de controle over zeer geavanceerde AI-systemen moet de sociale en civiele processen respecteren en verbeteren, in plaats van te ondermijnen, die essentieel zijn voor de gezondheid van de samenleving.
18. AI-wapenwedloop: Een wapenwedloop in dodelijke autonome wapens moet worden vermeden.

Langetermijnkwesties

19. Voorzichtigheid met capaciteiten: Aangezien er geen consensus is, moeten we sterke aannames over de bovenlimieten van toekomstige AI-capaciteiten vermijden.
20. Belang: Geavanceerde AI kan een diepgaande verandering betekenen in de geschiedenis van het leven op aarde en moet met de nodige zorg en middelen worden gepland en beheerd.
21. Risico’s: De risico’s die AI-systemen met zich meebrengen, vooral catastrofale of existentiële risico’s, moeten worden onderworpen aan plannen en maatregelen die overeenkomen met hun verwachte impact.
22. Recursieve zelfverbetering: AI-systemen die zijn ontworpen om zichzelf recursief te verbeteren of zichzelf op een manier te reproduceren die kan leiden tot een snelle toename in kwaliteit of kwantiteit, moeten worden onderworpen aan strikte veiligheids- en controlemaatregelen.
23. Algemeen belang: Superintelligentie mag alleen worden ontwikkeld in dienst van breed gedeelde ethische idealen en ten behoeve van de gehele mensheid, in plaats van ten gunste van één staat of organisatie.

Deze principes zijn opgesteld om ervoor te zorgen dat AI-technologieën op een verantwoorde manier worden ontwikkeld, waarbij zowel het enorme potentieel als de risico’s in acht worden genomen. En hoe het afloopt. Mijn AI zal er wel over bloggen in de komende jaren… Of instagrammen….

View this post on Instagram

A post shared by I am "Greutsj" (@iamgreutsj)

DI-Lab

Naast een nieuwe opleiding in Maastricht, was deze week ook de start voor een nieuwe uitdaging in Heerlen. Ik ben al een tijdje bezig om namens het Lectoraat Data Intelligence alle student-gerelateerde projecten op de Brightlands Smart Service Campus uit te voeren in het zogenoemde Data Intelligence-Lab. Dit schooljaar gaan we proberen het DI-Lab een stap volwassener te maken. De link naar HBO-ICT was altijd al sterk, maar in het afgelopen jaar hebben we de link naar VISTA en zelfs Gilde (MBO’s uit de regio) versterkt. Hierdoor heb ik op de werkvloer van het DI-Lab HBO studenten AD studenten MBO studenten die werken aan innovatieve projecten vanuit het bedrijfsleven, waarbij wij als lectoraat meekijken en meehelpen vanuit onderzoeks- of innovatiegebied. Dit zijn dus HBO-ICT en AD-ICT studenten en Software Developers vanuit VISTA en Gilde. Vanaf dit jaar gaan we dat ook veel duidelijker doen voor de opleidingen ADSAI en Technische Bedrijfskunde (TBK) en hebben we een grotere variëteit aan opleidingsinhoud door ook CMD stagairs in te zetten (dat deden we sporadisch al), maar ook MBO Media en Vormgeving studenten in te zetten. De eerste connecties naar de UM en OU zijn gelegd om ook die studenten aan boord te krijgen en zo een werkvloer van innovatie te creëren waarbij iedere student met welke achtergrond dan ook van en met elkaar leert en innoveert. Iedere student met innovatieve ideeën rondom AI is welkom om mee te leren en te innoveren.

Comenius

En mijn Comenius Beurs Project is nu ook begonnen. Althans zo voelt het. De officiële startdatum was al iets eerder en de eerste voorbereidingen ben ik ook al gestart, maar met de start van het nieuwe schooljaar zijn ook de eerste projecten gestart. Hier in het kort een overzicht van de zaken die deze week hebben of gaan plaatsvinden/starten rondom Comenius.

Start Minor Project Continual Learning Personal Intelligent Assistent.

In dit minor AI Project gaan studenten kijken hoe ze Continual Learning (het leren door algoritmes op basis van kleine datasets) kunnen implementeren in de infrastructuur van de Persoonlijke Intelligente Assistent (tafka StudyBuddy). Dit zodat we een data ecosysteem kunnen ontwikkelen (idee van Eddy van den Aker) waarbij de data dicht bij de eigenaar blijft en gebruikt kan worden door de instelling op moment dat de eigenaar daar toestemming voor geeft. Het leren van kleine datasets is daarin superrelevant en voor ons ook een interessant onderzoeksgebied.

MBO Gilde stage – Moodle connections to Hyperchalk en Concept Mapping Tool

Een MBO stagair van Gilde opleidingen uit Roermond (Jesper) gaat voor me kijken hoe we verder zouden kunnen ontwikkelen op Moodle en een verbinding leggen naar de in Frankfurt ontwikkelde integraties naar Hyperchalk (een collaboratieve omgeving met learning analytics support en een Concept Mapping Tool (ook ondersteund met learning analytics).

Engineering stage – Robotic Personal Assistent

Binnen Comenius mag een Engineering stagair me helpen met de Persoonlijke Intelligente Assistent in Robot vorm. Of het nu de robot is die op dje desktop naast je laptop staat of dat het de robot is die door de gangen van het schoolgebouw gaat. Beide varianten worden verder uitgewerkt (Desktop) en opgepakt (gebouw).

MBO Vista stage – Avatar Personal Assistent

Naast een “uiting” van de Persoonlijke Assistent in de vorm van een Robot gaan we ook kijken of een Avatar op het scherm of in AR/VR een ander effect heeft op studenten. Een MBO student, Tygo, is deze week gestart met zijn project om dit op te pakken

1e kennismakingbijeenkomst Comenius Netwerk

Maar betreffende het Comenius Netwerk heb ik een eerste kennismakingsbijeenkomst gehad met meer dan 60 nieuwe en al aanwezige leden van het netwerk van innovatoren in het onderwijs in Nederland. Goed om te zien dat MBO, HBO en WO hier samen komen om te delen. In mijn subgroepje om kennis te maken waren veel Comenius projecten rondom inclusie en stak ik er een beetje uit gezien mijn toch wat technische insteek. Maar er zijn mooie verbindingen te maken. Ik moet wel nog even kijken waar mijn plaatsje precies is. Wat ik me wel afvraag is waarom dat we in al die jaren dat we via SURF bezig zijn geweest met het vergaren en delen van kennis rondom de verschillende onderwerpen waar we met Zuyd bezig waren we zo weinig verbindingen hebben gezien naar Comenius. Ligt dat aan mij? Het kan goed zijn dat ik het niet gezien heb, maar dat het er wel was, maar het kan ook zijn dat ik dit netwerk gemist heb. Dit was nog slechts de kennismaking maar voor mij de reden om deze blogpost te schrijven en te laten zien waar ik in mijn Comenius mee begin (naast de andere start items van deze week).

Nu zijn we echt gestart!

Groet Marcel