Springe zum Inhalt →

Schlagwort: Maschine

Gotcha

Gelegentlich muss man ja mittels Captchas beweisen, dass man ein Mensch ist. Ich bin dafür häufig zu blöd. Gerade wenn man auf solch gekachelten Bildern jene auswählen muss, die einem bestimmten Kriterium entsprechen – z.B. mit Verkehrsschildern -, scheitere ich regelmäßig, bis ich aufgebe.

Dabei stellt sich mir ein logisches Problem: Eine Maschine überprüft, ob es ein Mensch oder ein Automat ist, der die Eingaben tätigt. Das ist ein bisschen wie der Turing-Test. Nur eventuell komplett ohne Mensch. Also eher wie der Voight-Kampff-Test. Kann dann das Ergebnis überhaupt verlässlich verifiziert werden? Und lassen sich Menschen leichter hereinlegen als Maschinen?

Auf das Thema bin ich übrigens durch diesen Kommentar gekommen: Seehofer zum Captcha-Test bitte.

Deep

„Roboter gehören zur Schöpfung“ – das Gespräch erinnerte mich ganz entfernt an Der Gewissensfall, wo ein Theologe Teil eines Erkundungsteams auf einem fernen Echsenplaneten ist – um herauszufinden, ob dieses gesellschaftliche Paradies, welches ohne den Glauben an Gott funktioniert, echt ist oder eine Illusion des Teufels, um die Menschen zu verführen, von Gott abzulassen.

Im DLF-Gespräch geht es allerdings um Künstliche Intelligenz und ob diese moralische Entscheidungen zu treffen vermag. Wenn ich den Theologen richtig verstanden habe, schlägt er eine pragmatische Lösung für diverse Dilemmata vor. So könne Deep Learning (Vorsicht!) so eingesetzt werden, dass KI das richtige Verhalten von Menschen automatisch lernt. Eine Entscheidung grundsätzlich am Programmiertisch zu treffen, wie bspw. sich ein Auto in Dilemmasituationen zu verhalten habe, sei jedenfalls nicht sinnvoll, da jede Entscheidung von vielen kleineren Faktoren bedingt sein könnte.

Mein Gedanke dazu war: Wenn Maschinen durch Beobachtung moralisches Handeln lernen sollen, ist es ja nicht mehr moralisch, weil die Entscheidung, etwas als richtiges und also nachahmenswertes Verhalten zu interpretieren nicht auf einem Individuum (samt Historie, Trotz und freiem Willen) beruht, sondern vermutlich auf der bloßen Masse von ‘richtigen’ Handlungen.

Interessant finde ich die Frage, wie sehr wir Menschen Moral auch ‘nur’ deep lernen. Erwähnenswert ist noch die Anekdote vom Prager Golem, der vergessen wurde, für den Sabbat deaktiviert zu werden, und daraufhin das Haus seines Herrn verwüstet.

Alexander meint zu dem Beitrag Folgendes:

Ich glaube, hier liegt eine große Begriffsverwirrung vor, die notwendigerweise zur Nivellierung zentraler anthropologischer Grenzziehungen führt. Es ist in dem Beitrag immer wieder von ‘maschinellen Entscheidungen’ die Rede. Gibt es die aber überhaupt – und wenn ja, in welchem Sinne? Die Wahl zwischen zwei (oder mehreren) Handlungsoptionen ist nur unter der Bedingung ‘moralisch’, dass die Handlung für den Entscheidungsakteur eine persönliche Relevanz besitzt. Das würde ich bei Maschinen grundsätzlich bezweifeln. Schon in der sprachlichen Mikrostruktur des KI-Diskurses wird mit unzulässigen Gleichsetzungen zwischen Mensch und Maschine operiert. Roboter sind nicht ‘intelligent’, es sei denn man reduziert Intelligenz auf Lernfähigkeit; sie handeln nicht ‘moralisch’, weil sie bloß einem sich selbst optimierenden Programm folgen; und sie treffen auch keine ‘Entscheidungen’, weil sie keine Gewissensbisse verspüren. Was wie moralisches Handeln aussieht, ist noch lange kein moralisches Handeln. Das ist im Grunde auch mein Einwand gegen den Turing-Test. Einer Maschine Würde zuzusprechen wäre damit das Ergebnis einer fundamentalen Selbsttäuschung – Kubriks ‘A.I.’ in allen Ehren.

Damit wäre alles gesagt.

Im Anfang steht das Denken still und lauscht

Im Deutschlandfunk Kultur gibt es gerade einige Buchvorstellungen zum Thema Ki&Co, z.B.: Robert Feustel: „Am Anfang war die Information“ – Die Grenzen der Digitalisierung.

Zu Beginn des Beitrages unterläuft dem Moderator ein beliebter Fehler, der sich zum Teil wohl vom Buchtitel herleitet, als er sagt: “‘Am Anfang war das Wort’, so lautet zumindest in der Bibel die Schöpfungsgeschichte.” Das gemeinte Zitat ist aus dem Johannesevangelium und lautet eigentlich “Im Anfang war das Wort”. Die Bedeutung verändert sich nicht unwesentlich, wenn es “Im” oder “Am” heißt.

Eine interessante Übersetzung findet sich ebenfalls beim DLF Kultur:

Im Uranfang war Er, das Wort.
Und Er, das Wort, war bei Gott.
Und Gott war Er, das Wort.
Der war im Uranfang bei Gott
Alles ist durch Ihn geworden,
und ohne Ihn geworden ist nicht eines.

Eugen Drewermann übersetzt das nicht ungeschickt so:

Am Anfang steht worthafter Geist. Denn worthafter Geist geht nach Gott. Gott selber ist worthafter Geist.

Von Anfang an geht er nach Gott.

Alles entsteht nur durch ihn, und ohne ihn entsteht nichts. Was immer entsteht, ist Leben durch ihn.

Jetzt ist natürlich die Frage, ob Robert Feustel mit seinem Buchtitel wirklich auf das Johannesevangelium anspielen will, vermutlich nicht. Für die Meinung von Philosoph Markus Gabriel, Gedanken seien objektiv wahre Tatsachen, die wie ein Ding existieren, kann er jedenfalls nichts. (Das Beispiel, Angela Merkel sei Bundeskanzlerin, ohne dass wir dies denken, ist eigentlich ein Beispiel für ein Gegenargument, denn wenn niemand denken würde, sie sei Bundeskanzlerin, wäre Angela Merkel verrückt. Wer ist nun verrückt?)

Mir scheint die fälschliche Übersetzung sowie die Zuschreibung zur Genesis ein ähnlich beliebter Irrtum zu sein, wie der, nachdem Eva, das Früchtchen, ihrem Adam einen Apfel gegeben hätte. Siehe auch: Der unsichtbare Apfel.

Am ehesten aus der Reihe der vorgestellten Bücher würde mich “It’s Alive” interessieren.

Metaorganoid

Ich habe mir ja in der Vergangenheit schwer Gedanken gemacht, wie körperlich alles ist. Passend dazu nehme ich auf ärztlichen Rat seit kurzer Zeit Vitamin D. Die Einnahme hob in den vergangenen Wochen leicht meine Stimmung, ob direkt oder durch Placebo ist mir egal.

(Placebo ist ja eben ein körperlicher Effekt. Der Begriff Placebo wird vermutlich häufig mit dem Wort “nur” gedacht, was aber der Wirkmacht des Effekts nicht gerecht wird und eher nach einer hilflosen Deskription derer klingt, die *alles* erklären können wollen. Eigentlich geht es um die Frage der Kontrolle: In welchem Maß habe ich es in der Hand, wie es mir geht? Womöglich hilft der Gedanke, dass man nichts für seine Befindlichkeit kann, sehr wohl aber Faktoren beeinflussen kann.

Mich würde interessieren, ob es schon Untersuchungen gibt, ob in Anbetracht des Zusammenwachsens von Technik und Mensch sowas wie ‘Cyber-Placebos‘ oder auch ‘Cyber-Nocebos‘ existieren. Ich vermute, überall, wo Abhängigkeiten entstehen, entstehen bei Funktionsausfall Entzugserscheinungen. Logische Konsequenz: Man sollte zunächst versuchen, sich nicht von seinem Körper abhängig zu machen. Vielleicht besteht ein Problem auch darin, dass der Mensch zu viel über sich und seinen Körper weiß, aber die Informationen nicht gut genug einordnen kann. Also müsste man vor allem an Selbstwahrnehmungscyberimplantaten forschen, wenn das Ziel eine Selbstoptimierung sein soll.)

Interessant im Zusammenhang der Frage, wie körperlich alles ist, ist zum Beispiel, welche Auswirkung die bakterielle Besiedlung des Darms haben kann:

  • Meine Bakterien und ich – Der Mensch als Metaorganismus (Man beachte, dass ein wesentlicher Ausgangspunkt der Kieler Forschung die Hydra ist: “Hydra, alle Tiere und der Mensch sind mehr als ihre Teile. Sie sind „Metaorganismen“, weil ihr Organismus auch die eigenen Mikroben umfasst.”)
  • Der kluge Bauch – Unser zweites Gehirn (“Im Bauchhirn lebt eine Hunderte Milliarden von Bakterien zählende Kolonie, deren Aktivität sich auf Persönlichkeit und Entscheidungen des Menschen auswirkt und die dafür verantwortlich ist, ob jemand beispielsweise zurückhaltend oder verwegen reagiert.”)
  • Bakterien-Fund im Gehirn wirft viele Fragen auf (“Rosalinda Roberts hält es für denkbar, dass Bakterien direkt im Gehirn eine Rolle spielen könnten. Jene Mikroben, die sie in den Hirn-Gewebeschnitten entdeckte, gehören sogar zu Stämmen wie Bacteroidetes, Firmicutes und Proteobacteria. Diese kommen auch im Darm vor. Es wäre eine faszinierende Vorstellung, wenn die Darm-Hirn-Achse nicht auf einer Fernwirkung beruhte, sondern auf einer direkten Einflussnahme vor Ort.”)
  • „Mini-Gehirne“ aus Stammzellen – Was denkt ein Organoid in der Petrischale? (Hat nicht mit dem Thema direkt zu tun, ist aber auch interessant. “Man könnte sagen: Die Organoide sehen. Licht trifft auf die Netzhautzellen, und die Nervenzellen reagieren mit elektrischen Signalen. Nicht so kompliziert wie im Gehirn, aber das gleiche Prinzip.”)
  • Von cerebralen und anderen Organoiden (Kritischer Blick, 5 Jahre alt: “Mit etwas Glück könnten die Wiener Forscher zeigen, wie sich neuronale Synapsen entwickeln und verknüpfen. Aber die vielfältigen und komplexen Verhaltensmuster von Autismus zu erklären – dazu bedarf es nun wirklich einiges mehr.”)

Ich bin übrigens nicht wirklich schlauer geworden, wie körperlich alles ist. Solange die Maschine aber noch zittert und Vitamin D beim Bloggen hilft, soll mir vieles recht sein.

Künstliche Verantwortung

Diskussionen zwischen KI-Systemen sollen Entscheidungen nachvollziehbar machen, berichtet heise von OpenAI.

Da denke ich mir (was mit dem Artikel selbst nur noch wenig zu tun hat): Wenn uns demnächst Maschinen auch Entscheidungen abnehmen können, dann brauch man ja auch keine Verantwortung mehr zu übernehmen. Autonome Autos sind da ziemlich plausibel, vielleicht gilt das aber auch für andere Bereiche, wie z.B. Altenpflege. Vorher machen uns aber am besten noch die Hirnforscher weis, dass wir gar nicht die Entscheidung selbst treffen, sondern unser Gehirn. Dann wären wir alle fein raus.

Das Zittern der Maschine

Die Illusion der Gewissheit ist ein Essay von Siri Hustvedt (Die zitternde Frau), über den im Deutschlandfunk berichtet wurde: Rezension (“Das Leesen des Buches ist schwere Arbeit”) und Interview (“KI wird nicht in der Lage sein, Emotionen zu entwickeln”).

Im Grunde geht es glaube ich mal wieder um das Leib-Seele-Problem, wenn auch vielleicht nicht direkt. Ich stelle ja in letzter Zeit immer wieder fest, wie körperlich viele Dinge doch sind, von denen ich es vorher nicht annahm. Vielleicht werde ich alt. Jedenfalls spricht sie mir beim Thema KI&Co aus der Seele. Wenn sie mit ihren Thesen daneben läge, würde sie mir – logisch – aus dem Leib sprechen.

Findet es noch jemand witzig, dass sie Siri heißt? Und warum findet  derzeit jeder HAL interessant, anstatt sich mal bspw. auf SHODAN zu beziehen, wenns um verrückte KIs geht:

Angst Essen Google Auf

Vor Kurzem unterhielt ich mich mit einer Schülerin über ihr vergangenes Prüfungsthema, digitale Demenz. Ich fragte mich, was sie damit meinte. Ob es in die Richtung von Manfred Spitzers Behauptungen Digitale Demenz – Wie wir uns und unsere Kinder um den Verstand bringen (E-Book Version kompakt, für die Denkfaulen, tolles Marketing!) gegangen ist? Seine Thesen scheinen übrigens hohe Wellen geschlagen zu haben: OK, Google, Where Did I Put My Thinking Cap? Man könnte da aber auch etwas neutraler vom Internet als externem Gedächtnis sprechen. Oder Supergehirn.

Oder meinte meine Schülerin mit dem Begriff digitale Demenz nicht analoge Ignoranz, sondern dass das Internet – und damit womöglich auch die Menschheit – ständig Dinge vergesse? (Zur Erklärung: Diego hat neulich in der Berghainschlange festgestellt, dass die meisten externen Links auf der AKBp-Seite nicht mehr funktionieren. Soo lange ist das mit dem AKBp nun auch nicht her, siehe Gründungsmythos.) Dabei wird das Internet ja hier irgendwie gespeichert: The Wayback Machine. Die Frage ist nur, ob das als Gedächtnis zählt. Eigentlich wird da ja nicht ein komplettes Netzwerk gespeichert. Vielleicht ist das ein bisschen so, als würde ein Mensch immer alles aufschreiben, aber nicht verknüpfen und sortieren. Ein Gedächtnis funktioniert also eigentlich nur mit einer Instanz, welche die Erinnerungen sortieren und aufbereitet darbieten kann. Sowas wie Google also. Logisches Problem: Falls die Benutzung der Suchmaschine tatsächlich dazu führen sollte, dass wir weniger selbst denken und das Internet in der Folge mit immer weniger neuen bzw. relevanten Daten füttern, werden dann nicht alle Informationen irgendwann redundant? Vergisst das Internet schließlich sich selbst? Das ist, wenn ich mich richtig erinnere, der Traum des Überwachungssystems in George Orwells1984: Mittels Neusprech die Sprache schließlich auf ein Wort zu reduzieren. Dort kontrolliert das System die Menschen übrigens mit ihren persönlichen Ängsten.

(Da geht’s schon unaufhaltbar voran mit der digitalen Demenz. Wollte gerade irgendwo weiter oben den Link zu dem Film Lo And Behold – Reveries Of The Connected World einfügen. Die Domain ist nicht mehr vergeben: http://www.loandbehold-film.com/)

Zwischendurch zur Klarstellung: Ich will damit echte Demenz nicht veralbern.

Ich denke, dass das Thema digitale Demenz vor allen Dingen von Angst geschürt wird, so wie viele Themen gerade, die den derzeitigen sinnentleerten Wandel markieren. Viele wünschen sich in die Vergangenheit zurück, die sich im Gewand der Erinnerung (dank selektiver Sortierung und Aufbereitung) heute besser darzustellen vermag, als sie es damals als  Gegenwart vermochte.

So würde sich auch erklären, wieso neulich der Pfarrer in Wissenbach (Vakanzvertretung) so krudes, pseudoanalytisches Zeugs gepredigt hat. Thema der Predigt: Was hat das Christentum Gutes für Deutschland gebracht. (Predigtext war, wenn ich mich richtig erinnere, Matthäus 23 – was mit dem Thema nichts zu tun hat, höchstens mit seiner Sichtweise auf sich selbst, falls er sich wirklich als Rebell in der evangelischen Kirche versteht, wie meine Mutter mal meinte.) Mein Gedächtnis hat einen Großteil der Predigt mittlerweile verdrängt. (Das lässt in mir den Gedanken keimen, dass Vergessen Arbeit ist und daher mit Anstrengung verbunden ist.) In seiner Ansprache richtete er sich immer wieder direkt an die drei Jugendlichen vor mir, nutzte dabei aber Wörter wie Attribut und anthropophil (oder androphil?). Es gipfelte schließlich in der Aussage: “Und wenn es in Deutschland nicht so viele Abtreibungen gäbe, bräuchten wir weniger ausländische Fachkräfte.”  Ich hab mich währenddessen schwer aufgeregt und konnte nicht still sitzenbleiben in der Bank, bin es meiner Mutter zu Liebe aber doch. Hatte der Pfarrer wohl auch gemerkt, weil er da sowas in seinen Schluss einbaute wie “Auch wenn es hier manche aufregen mag…”. (Meiner Mutter hat dieser harte Satz vorher übrigens auch nicht gefallen, wie sie mir später sagte.)

Diese Predigt und auch die Thesen Manfred Spitzers würden, glaube ich, ohne ein dahinter gedachtes Früher war alles besser nicht wirklich greifen. Und dieser Gedanke kommt vielen, glaube ich,  derzeit durch eine Angst vor der Zukunft im Angesicht der Gegenwart.

Unsere negativen Emotionen sind aber ein schlechter Archivar unserer Erinnerungen.

Nachtrag:
Jetzt habe ich völlig vergessen, zu erzählen, wie ich überhaupt aktuell auf das Thema gekommen bin: Neulich habe ich eine Deutschgeschichte, Klasse 6, korrigiert, in der ein Schüler einen merkwürdigen Rechtschreibfehler eingbaut hatte: Am Anfang dachten alle, es Wärme nur eine Frage der Zeit. Wie zum Geier schleichen sich schon t9-artige Tippfehler, wie man sie von der Autovervollständigung bspw. aus Whatsapp kennt, in handschriftliche Texte ein? Ich Rätsel Zimmer noch, wie ihm das Passwort konnte.

Schwer oarme Firma

Sascha Lobo – der hat auch manchmal schwer lange Blogpausen – schreibt auf SPON über Facebook, die erste vernetzte Gefühlsmaschine:

Denn Treibstoff der sozialen Infrastruktur Facebook sind: Emotionen. Alle wesentlichen Probleme – wie auch die wirtschaftlichen Vorteile – ergeben sich aus der Macht von Facebook, flächendeckend Emotionen auszulösen. Genau dafür ist Facebook gebaut, wie man schon an Standardreaktionen sieht: Like, Love, Haha, Wow, Sad, Angry.

Und das ist der Hauptgrund dafür, dass vor der – absolut notwendigen – Regulierung Facebook überhaupt erst verstanden werden muss: Diese neue soziale Infrastruktur bildet nicht nur den Stand der digitalen Gesellschaft ab. Sie ist zugleich die erste vernetzte Gefühlsmaschine der Welt […}.

So von wegen Gefühle und Maschine und so: Mark zʌkʰɚbɚg konnte einem bei der Anhörung schon leid tun, muss aber nicht.