Maandelijks archief: maart 2019

SXSW 2019 – Beating the hype of AI in healthcare

Twee uitstekende en nuchtere verhalen over hoe AI in gezondheidszorg wordt toegepast. De nederlander Michael Abramoff, werkzaam in Iowa, vertelde over geautomatiseerde diagnose van oogziekten, en Elisabeth Asai over datzelfde bij huidziekten. In beide gevallen gaat het om ‘assistive AI’: De computer helpt de mens door een snelle en nauwkeurige diagnose. Het doel hiervan is betere toegang tot de zorg, en lagere kosten.
Opvallend bij beide verhalen was dat ze al decennia mee bezig zijn met automatisering bij diagnose. AI is geen revolutie maar een evolutie. In de jaren 80 met regel-gebaseerde systemen waarbij de computer vragen stelde. Daarna met eenvoudige convolutionele netwerken maar dat werkte nog niet goed: Ze konden alleen maar werken op kleine foto’s (16×16 pixels) en waren daardoor erg onnauwkeurig, en ze waren breekbaar: Door kleine verstoringen werkte het al niet meer. Moderne AI heeft betere algoritmes, er is meer computerkracht, en kan worden gewerkt met goede scherpe foto’s.
De oogdiagnosetool van Abramoff is bijzonder, want FDA goedgekeurd. Dat vereiste een groot proces, waarbij de kenmerken van het algoritme moesten worden ‘gematcht’ met de eisen van FDA Trials:
  • Gevoeligheid: Hoeveel gevallen vangt je systeem
  • Specificiteit: Hoe weinig vals positieven vangt je systeem
  • Diagnosabiliteit: Het moet werken op de overgrote meerderheid van alle gevallen
Daarnaast zijn er bij de FDA veel eisen over de manier van werken, en is het AI systeem verantwoordelijk voor de diagnose. Toen een vraag uit het publiek kwam wat Abramoff vond van de resultaten van Google, die met deep learning allerlei kenmerken (zoals geslacht) uit oogfoto’s kon halen, zei hij simpelweg: Zij zijn niet FDA goedgekeurd, en meer kan ik daar niet over zeggen. Met andere woorden: Daar hangt al dat gewicht niet aan.
Beiden legden ook goed uit hoe hun algoritmes in elkaar zaten, met deep learning worden biomarkers herkend en anomalieen gevonden. De nauwkeurigheid is niet altijd goed te vergelijken met de diagnose van mensen, omdat daar heel veel ‘ruis’ in zit. Zelfs artsen uit verschillende landen scoren totaal anders met hun diagnosenauwkeurigheid. Er wordt daarom alleen gekeken naar de uitkomst. En er is geen praatje over AI waar niet over bias gesproken. Voor de huidziekte diagnose is dat nu nog lastig voor donkere huid.
En beiden maakten het heel duidelijk waar AI momenteel goed werkt: Op een klein, heel goed gedefinieerd onderdeel kan AI heel behulpzaam zijn met snelle, goedkope, schaalbare en goede diagnose. Het beeld van de robot dokter die binnen een paar jaar alle medische banen overneemt is volslagen onzinnig.

SXSW2019: Wombats and Wood Ducks: CIA’s Secrets to Creative Problem Solving

Een duo presentatie van 2 docenten die bij de CIA ‘Creatief Denken’ onderwijzen. Creatief denken en verbeelding werd bij de CIA een echt onderwerp na het 9-11 rapport, dat onder andere concludeerde: “It is therefore crucial to find a way of routinizing, even bureaucratizing, the exercise of imagination.”. Maar hoe doe je dat?

Het allerbelangrijkste is om vooral zo lang mogelijk ‘divergent’ te blijven denken en meer wegen te zoeken, voor je te verbinden aan 1 oplossing. ‘Resist the urge to converge!’

De CIA instructeurs gebruiken een systeem met 4 elementen, allen vernoemd naar dieren om makkelijk te kunnen onthouden:

Wombat – Herkaderen

Het kader van het probleem kan je uitbreiden met de term ‘Wombat’: What might be all the …. Je wordt uitgedaagd om van jrobleem (‘Hoe kom ik over de rivier’) te her-kaderen: Wat zijn alle manieren waarop ik over de rivier kan komen. Dit scheelt echt, je komt tot veel meer opties. Dus stel vragen die uitnodigen tot nadenken, wat ze noemen ‘invitational questions’, met meervoud. Dus niet: ‘Hoe’ maar ‘Op welke manieren’.

Wolf – Out of your box

De wolf staat voor ‘out of the box’ denken. Met wie zouden we kunnen samenwerken om dit probleem op te lossen. In het geval van het MH-17 onderzoek waren dat bijvoorbeeld tal van instanties die met veiligheid, luchtvaart, geografische data en raket wetenschap te maken hadden. Ook werkt CIA samen met heel andere organisaties, zoals Hollywood schrijvers om een verhaal over te brengen, science fiction schrijvers, zelfs goochelaars. Vraag je dus af: “Op welke manieren kan ik leren van iemand met een ander beroep?”. Lees andere tijdschriften. Neem andere routes.

Wood Duck – Denk in analogieën

Het viel een CIA medewerker eens op dat de Wood duck (Carolina-eend in het nederlands) een heel ander leven had dan andere eenden. Hij verbleef in bomen, en was vaak samen met eekhoorns. Hij migreerde hel anders. Dat kan je gebruiken om je verbeelding te voeden. Op welke manier kan de verdachte heel andere patronen hebben dan de rest? Maak daar een verhaal van, alsof het een film is. Bij de CIA maken ze zelfs echte filmposters en maken complete fantasie-verhalen. Dit helpt creatief denken én het overbrengen daarvan. Om je op gang te helpen kan je kijken naar jouw antwoorden op vragen als: Wat doe ik graag in het weekend, of Wat is mijn favoriete kunstwerk. Ga dan na hoe je het probleem kan zien in dat kader. Een van de agenten koos bijvoorbeeld een kunstwerk met watervallen en rivieren, en ziet anti-terrorisme nu in dat kader: Als we een blokkade maken, stroomt de rivier daar om heen. En bij anti terrorisme is dat net zo.

Otter – Breek patronen

De vorige oplossingen werken misschien niet meer. Bij CIA hebben ze daarvoor een ‘Red Cell’: Een groep mensen die zoekt naar ‘Black Swans’ (verrassende gebeurtenis met grote gevolgen), ‘Gray Rhinos’ (verwachte problemen die nog steeds verrassen), ‘Dogs that don’t bark’ (gebieden die tot niets leiden) en ‘Plate tectonics’ (dramatische veranderingen die zeer langzaam plaatsvinden). Een van de voorbeelden hiervan is bekend geworden in het boek en de film Argo, waarbij Amerikanen werden bevrijd uit Iran door het land te bezoeken met een team dat zogenaamd een film aan het maken was. Zo’n crew bestaat uit mensen uit de hele wereld, en alleen hollywood mafkezen gaan een bezet land in om te filmen. Dus geloofwaardig, en makkelijk om aan mee te werken. Doe dus juist niet wat je normaal wel doet.

Een erg leuke sessie, vol met informatie. De slides worden gedeeld via de twitter van CIA, en als je meer wilt lezen over de achtergrond kan je het boek Psychology of Intelligence Analysis zoeken, in PDF te vinden op de CIA site: https://www.cia.gov/library/center-for-the-study-of-intelligence/csi-publications/books-and-monographs/psychology-of-intelligence-analysis/PsychofIntelNew.pdf Dit boek is de bijbel voor CIA mensen. Doe er je voordeel mee!