Kategorie: Digitalisierung

Können Drohnen Flugangst haben?


Maschinen werden immer intelligenter. Intelligente Maschinen sind, einfach gesprochen, Maschinen, die typischerweise das tun, was Menschen tun bzw. die das tun, was man nie dachte, dass Maschinen es tun können. Im Mittelpunkt steht dabei die Lernfähigkeit von Maschinen. Intelligente Maschinen können mit Methoden der Künstlichen Intelligenz (KI) eigene, neue Verhaltensregeln lernen. 

Intelligente Maschinen werden menschlicher!

Nicht zuletzt seit Marc-Uwe Klings Zukunftssatire “QualityLand wird aber auch intensiver über die unerwarteten Auswirkungen und Fragen der Digitalisierung diskutiert. Oder wie es im Klappentext des Buches so schön heißt: „Wenn das System wirklich so perfekt ist, warum gibt es dann Drohnen, die an Flugangst leiden, oder Kampfroboter mit posttraumatischer Belastungsstörung? Warum werden die Maschinen immer menschlicher, aber die Menschen immer maschineller?“  

Tatsächlich werden Maschinen immer menschlicher! Dies sehen wir an keiner anderen Stelle so klar und deutlich wie im Bereich intelligenter Sprachlösungen. Kennen Sie zum Beispiel Google Duplex? Falls nicht, schauen Sie sich das Video an! Aber auch wenn Sie es schon kennen ist es immer wieder verblüffend. Google Duplex ist eine KI-basierte Sprachlösung, die völlig automatisch übers Telefon einen Friseurtermin bucht oder eine Tischreservierung in einem Restaurant vornimmt. Die Maschine redet dabei wie ein echter Mensch. Inklusive passender Gedankenpausen und typisch menschlich-verbalen Ausdrücken wie „ähh“.  

Video: Google Duplex führt Gespräche mit Menschen.

Die entscheidende Frage ist: Wollen wir als Menschen wirklich, dass Maschinen so reden wie Menschen? Wollen wir wirklich, dass Maschinen Ausdrücke wie „ähh“ verwenden? Die Konsequenz ist nämlich: Wir werden uns schon sehr bald nicht mehr sicher sein, ob wir mit einem Menschen oder einer Maschine telefonieren (vielleicht sollte es deswegen eine Pflicht geben, dass Maschinen sich outen?).

Video: Der humanoide Roboter Sophia.

Menschen kontrollieren Maschinen! Noch!

Die gute Nachricht ist: 

Noch haben wir Menschen die Lage unter Kontrolle! Denn wir sind es, die intelligente Maschinen programmieren! Wir sind es, die Maschinen die Daten bereitstellen, auf Basis derer Sie lernen! Uns obliegt es, was wir Maschinen beibringen! 

Genau deswegen können wir – theoretisch zumindest – Drohnen tatsächlich auch beibringen Flugangst zu haben bzw. zu lernen! Wie man Emotionen programmiert sei an dieser Stelle vereinfachend ausgeklammert; dass die Programmierung von Emotionen nicht ganz trivial ist wissen wir spätestens seit Data (siehe Video).

Video: Data und Emotionen.

Das Problem ist allerdings, dass wir Maschinen auch zu Psychopathen machen können. Dass dies geht zeigt das Beispiel von Norman, der ersten psychopathischen KI. Intelligente Maschinen lernen, wie geschrieben, eigene, neue Verhaltensweisen auf Basis der Daten, mit denen sie gefüttert werden. Norman ist nun ein KI-System, das zu abstrakten Bildern einfache Bildunterschriften finden soll. Allerdings wurde Norman nicht mit „positiven“ Daten gefüttert, sondern mit „negativen“ Daten, konkret morbiden, blutrünstigen Bildunterschriften. Anschließend führte man mit Norman einen so genannten Rorschachtest durch. Der „Patient“ (also in diesem Fall Norman) bekam speziell aufbereitete Bilder vorgelegt, die kunstvollen Tintenklecksen (englisch: inkblots) ähneln. Norman sollte folgende Frage beantworten: „Was siehst du in den Bildern?“ Wichtig: Theoretisch sind den Bildern prinzipiell unendlich viele Motive zu erkennen. Es gibt auch keine richtige oder falsche Antwort. Die nachfolgende Abbildung zeigt, welche Motive Norman (links) in den Bildern sah (im Gegensatz zu einem positiv-trainierten KI-System rechts). Krass, oder?

Bild: Ergebnisse negativ-denkender und positiv-denkender KI (Screenshot).

Können wir Maschinen auch morgen noch beherrschen?

Nur weil wir KI heute programmieren und kontrollieren können muss dies morgen aber nicht auch so sein. Über erste bedenkliche Entwicklungen ist bereits zu lesen. 

KI-Forscher von Facebook haben zuletzt ein Experiment abgebrochen, als zwei voneinander unabhängige KI-Systeme plötzlich eine von den Forschern vorgegebene Sprache zur Kommunikation selbständig weiterentwickelt haben – und zwar so, dass die menschlichen Forscher nicht mehr nachvollziehen konnten, was die Maschinen miteinander sprachen. Warum wurde das Experiment abgebrochen? „The […] problem is that allowing AIs to develop their own language could prove to be catastrophic. Humans may never have any idea what the agents are saying in full and be left in the dark about what is truly going on.“  So weit weg sind wir da gar nicht mehr von Terminator, Resident Evil oder Ex Machina!

Video: Bedrohung durch KI-Waffensysteme.

Exponentieller Fortschritt und die technologische Singularität

Eine grundlegende Herausforderung bei der Entwicklung von und beim Umgang mit intelligenten Maschinen ist, dass die Geschwindigkeit des technologischen Fortschritts für Menschen, auch für Forscher, heute kaum mehr greifbar ist. Zu viel passiert in zu kurzer Zeit in zu vielen Bereichen. 

Viel wird darüber diskutiert, ob technologischer Fortschritt sogar exponentiell voranschreitet. Das wäre dann auch einer der Gründe dafür, warum technologischer Fortschritt nicht oder immer schwerer greifbar ist. Menschen tun sich grundsätzlich schwer mit dem Verständnis exponentieller Entwicklungen

Wohin exponentieller Fortschritt führt ist dagegen klar! Falls Fortschritt tatsächlich exponentiell ist, wird es zwangsläufig und unausweichlich zur technologischen Singularität kommen. Dies ist der Zeitpunkt, vereinfacht gesprochen, an dem Maschinen so intelligent werden, dass nicht mehr vorhersehbar ist, was passiert! Dazu schrieb der Statistiker I. J. Good schon 1965: “Eine ultraintelligente Maschine sei definiert als eine Maschine, die die intellektuellen Fähigkeiten jedes Menschen, und sei er noch so intelligent, bei weitem übertreffen kann. Da der Bau eben solcher Maschinen eine dieser intellektuellen Fähigkeiten ist, kann eine ultraintelligente Maschine noch bessere Maschinen bauen; zweifellos würde es dann zu einer explosionsartigen Entwicklung der Intelligenz kommen, und die menschliche Intelligenz würde weit dahinter zurückbleiben. Die erste ultraintelligente Maschine ist also die letzte Erfindung, die der Mensch zu machen hat.


Weitere Themen
in unserem Blog

Die ersten Fake News: Was Kaiser Konstantin angeblich schenkte und Bismarck redigierte!

Die ersten Fake News: Was Kaiser Konstantin angeblich schenkte und Bismarck redigierte!

Fake News und deren tatsächliche und vermutete Auswirkungen sind in unserem gesellschaftspolitischen Diskurs seit einigen Jahren nicht mehr wegzudenken. Fake News sind aber tatsächlich so alt wie die Menschheit selbst. Eine Definition des Begriffs fällt dabei bis heute schwierig. Der Begriff ist…

Artikel lesen
Maschinen und Moral: 
Ein Widerspruch! Oder nicht?

Maschinen und Moral: 
Ein Widerspruch! Oder nicht?

1942 formulierte der Science-Fiction-Autor Isaac Asimov in seiner Kurzgeschichte „Runaround“ drei Grundregeln für das Verhalten von Robotern, seine „Grundregeln des Roboterdienstes“: 1. Ein Roboter darf einen Menschen nicht verletzen oder durch Untätigkeit zu Schaden kommen lassen. 2. Ein Roboter…

Artikel lesen
Die Digitalisierung des Menschen: 
Crazy Shit Beispiele im Überblick

Die Digitalisierung des Menschen: 
Crazy Shit Beispiele im Überblick

Die Digitalisierung überrennt Gesellschaft, Unternehmen und jeden Einzelnen von uns mit unvorstellbarer Dynamik und Wucht. Während manche Auswirkungen in unserem Alltag sichtbar und spürbar sind, bleibt vieles andere vage und im Verborgenen. Viele Ideen und Anwendungen der Digitalisierung basieren…

Artikel lesen