Wir sollten wachsamer sein – Pat Christ

Fluch und Segen – Algo­rith­men und Ihr Einfluss auf das Menschsein
– - -
Die Pande­mie lässt uns nicht zur Ruhe kommen. Sie wirft ganz neue Fragen auf. Sie verstärkt Tenden­zen, die sich schon vor der Corona-Krise abge­zeich­net haben. Und sie treibt bestimm­te Entwick­lun­gen massiv voran – nicht zuletzt und vor allem jene hin zu künst­li­cher Intel­li­genz. Was ist daran gut? Was bedenk­lich? Inwie­weit wird unsere Welt dadurch huma­ner? Wo droht das Humane auf der Stre­cke zu blei­ben? Wo soll­ten wir wachsam(er) sein? Wir spre­chen hier­über mit Exper­tin­nen und Experten.- – -
Nach einer Quer­schnitt­läh­mung wieder laufen zu können – welcher Traum für Menschen, die seit Jahren im Roll­stuhl sitzen! Das Zusam­men­spiel von Wille, Algo­rith­men und Senso­ren soll diesen Traum erfül­len helfen. Der Deutsch­land­funk berich­te­te vor knapp zwei Jahren darüber, dass die Neuro­wis­sen­schaft­ler Grégo­i­re Cour­ti­ne und Joce­lyn Bloch Lähmun­gen behan­deln, indem sie Elek­tro­den ins Rücken­mark implan­tie­ren. Algo­rith­men sollen nach der OP beim Gehen steu­ern, wann genau welche Stelle im Rücken­mark stimu­liert wird. Beim 93. Kongress der Deut­schen Gesell­schaft für Neuro­lo­gie im Herbst letz­ten Jahres wurden erste Studi­en­ergeb­nis­se vorgestellt.

- – -
Wer sich den Spaß macht, im Inter­net nach dem Thema „Algo­rith­men“ zu surfen, findet fast neun Millio­nen Tref­fer. Was die immense Rele­vanz des Themas aufzeigt. Beim Stich­wort „Huma­ni­tät“ spuckt die Such­ma­schi­ne nur um die 1,1 Millio­nen Tref­fer aus. Die beiden Schlag­wor­te „Algo­rith­men“ und „human“ zeiti­gen 870.000 Ergeb­nis­se. Sie führen zum Beispiel zu Marc-Oliver Pahl von der Tech­ni­schen Univer­si­tät München und zu dem Online­auf­tritt „Mensch-Sein mit Algo­rith­men“. Dabei geht es, infor­miert die Websei­te, um Verant­wor­tung beim Voran­trei­ben der digi­ta­len Transformation.

- – -
Mangel an Verant­wor­tungs­ge­fühl, das ist genau der Grund, warum der Blaue Planet heute so immens leidet. Und mit ihm die Lebe­we­sen, die ihn bewoh­nen. Weil Folgen einst nicht verant­wort­lich abge­schätzt wurde, konnte es zum aktu­el­len Umwelt- und Klima­de­sas­ter kommen. Ob dies in puncto Digi­ta­li­sie­rung anders laufen wird? Es gibt Ansät­ze, die Hoff­nung machen. „So hat die EU-Kommis­si­on am 21. April einen Vorschlag zur Regu­lie­rung von KI-Syste­men vorge­stellt“, berich­tet Marco Huber, Leiter des Zentrums für Cyber Cogni­ti­ve Intel­li­gence am Fraun­ho­fer-Insti­tut für Produk­ti­ons­tech­nik und Automatisierung.

- – -
Nicht mehr überprüfbar

- – -
Marco Huber ist ein KI-Mann, der die Risi­ken nicht unter den Teppich kehrt. Compu­ter, die sich mittels maschi­nel­len Lernens selbst program­mie­ren, können nach seinen Worten extrem komplex sein. „Bei beson­ders komple­xen und großen Model­len, etwa bei künst­li­chen neuro­na­len Netzen, wären zum Nach­voll­zie­hen eine enorme Menge an Rechen­schrit­ten zu über­prü­fen, was kein Mensch mehr leis­ten kann“, sagt er. Daher wirk­ten diese Model­le wie eine Black­box. Die Intrans­pa­renz durch die Unmög­lich­keit des mensch­li­chen Nach­voll­zugs sei etwa in der Medi­zin oder bei der Kredit­ver­ga­be schlicht nicht hinnehmbar.

- – -
Viele Menschen macht die Omni­po­tenz der Infor­ma­ti­ons­tech­no­lo­gien inzwi­schen Angst. Der aktu­el­le Regu­lie­rungs­vor­schlag der EU nimmt diese Angst kaum. Kritisch wird Huber zufol­ge gese­hen, dass nur zwischen zwei „Kriti­k­ali­täts­stu­fen“ unter­schie­den wird. „Es gibt durch­aus auch Vorschlä­ge einer Eingrup­pie­rung anhand von vier oder mehr Stufen, um eine feine­re Risi­ko­be­ur­tei­lung vorneh­men zu können“, sagt er. Auch werde vorge­schla­gen, die Kriti­k­ali­tät eines KI-Systems anhand zweier Dimen­sio­nen zu erfas­sen: „Dem Scha­dens­po­ten­zi­al und der Eintritts­wahr­schein­lich­keit.“ Je nach Einsor­tie­rung wäre dann fest­zu­le­gen, ob Algo­rith­men allei­ne entschei­den dürfen.
für IT im Gesundheitswesen.
– - -
Mehr online

- – -