Menschen, wir sind noch nicht verloren!

James Bridle hat eine simple Falle für autonome Fahrzeuge erfunden

Advertisements

Wenn ich mich recht erinnere, genügt in Bram Stokers Roman Dracula eine einzele Hostie, um einen Bannkreis zu schaffen, den Vampire nicht betreten können. Sehr praktisch, wenn man gerade durch Transylvanien reist und eines temporären safe space bedarf, zum Beispiel um nachts in Ruhe schlafen zu können.

(Ich bin nicht sicher, ob es eine katholische Hostie sein muss, also der wahrhaftige Leib Christi, oder ob eine evangelische Hostie, also profanes Brot mit erhöhtem Symbolwert, auch funktioniert.)

Einen modernen Bannkreis zu Bezwingung seelenloser Angreifer hat der Künstler James Bridle geschaffen. Bei ihm geht es nicht um Ausschluss, sondern um Einschluss, aber das Prinzip ist ähnlich simpel: Mit Kreide zeichnet er zwei Kreise auf den Boden, die etwa die Größe eines Parkplatzes für handelsübliche PKW haben. Die Linie des äußeren Kreises ist gestrichelt, die des inneren durchgezogen.

Autonome, selbststeuernde Fahrzeuge, die durch ihre Software an die Straßenverkehrsordnung gebunden sind, können nun von außen in diesen Kreis hineinfahren, kommen von innen aber nicht mehr raus. Sie sind gefangen. James Bridle nennt das: Autonomous Trap 001 (siehe Video).

Es scheint derzeit plausibler, dass eines Tages die Maschinen uns Menschen zur Gefahr werden, als dass noch Vampire auftauchen und uns alle ausrotten (ich habe neulich mit dem Philosophen Nick Bostrom darüber gesprochen), insofern empfiehlt es sich für alle Prepper, ein Stück Kreide in der Tasche zu haben (eine einfache, durchgezogene Kreislinie wirkt dann ähnlich wie die Hostie gegen Blutsauger).

Hoffen wir, dass das Wetter stabil bleibt, wenn die Teslas sich eines Tages gegen uns erheben. Regen wäre in dieser Situation wirklich unpässlich.

P.S.: Entdeckt habe ich Bridles Idee in diesem Text aus der Süddeutschen Zeitung.

 

Computer vs. Menschen: Poker

Die nächste Entwicklungsstufe der Künstlichen Intelligenz

Wie intelligent sind Computer heute schon? Wie intelligent können sie noch werden? Wird das womöglich ein Problem für uns? Um diese Fragen geht es in Superintelligenz, einem Buch des Oxforder Philosophen Nick Bostrom.

Aus meiner Rezension des Buches für Spiegel Online:

Ende der Siebzigerjahre schlägt zum ersten Mal ein Computer einen Menschen in einem Intelligenzwettbewerb. Die Software »BKG« siegt gegen den amtierenden Weltmeister in Backgammon. Vielleicht hatte der Computer bloß Glück, räumt sein Erfinder ein. Anderthalb Jahrzehnte später gibt es mit »TD-Gammon« jedoch bereits ein Programm, das aus Spielen gegen sich selbst dazulernt und heute »die besten menschlichen Spieler weit hinter sich gelassen« hat, wie Nick Bostrom schreibt. Im Poker schwächeln die Künstlichen Intelligenzen (KI) zwar noch, und im Erfinden von Witzen sind sie lausig. Doch auch in Dame, Schach, Scrabble und der Quizshow »Jeopardy« haben sie inzwischen ein »übermenschliches« Niveau erreicht, so Bostrom.

Doch, ha!, das war der Stand von 2014. Heute ist auch Poker nicht mehr sicher. Denn Wissenschaftlern ist es inzwischen gelungen, ein KI-Programm zu schreiben, das (menschliche) Poker-Profis geschlagen hat.

Die Zeitschrift Bloomberg Businesweek meldet in der Ausgabe von vergangener Woche (ich finde den Artikel leider nicht online), dass das kommerzielle Online-Poker bis auf Weiteres jedoch sicher sei. Die allgemein verfügbare Hardware reiche nicht aus, um entsprechende KIs zu betreiben.

In dem Artikel wird ein Poker-Spieler mit den Worten zitiert, er sei sich sicher, dass er online schon gegen Bots gespielt habe, die aber immer leicht zu schlagen gewesen seien. Wie beruhigend.

Überhaupt scheint im Moment weniger die Intelligenz von Computern zum Problem zu werden als die Intelligenz von Menschen.

»Führender globaler Denker«: Auszeichnung für Nick Bostrom

Das amerikanische Foreign Policy Magazin hat dieser eine Liste der »führenden globalen Denker« des Jahres 2015 veröffentlicht (die ganze Liste gibt es hier). Mit dabei ist der Philosoph Nick Bostrom, der vor den Gefahren der künstlichen Intelligenz warnt. Seine Langzeitperspektive: mögliche Auslöschung der Menschheit durch intelligente Maschinen. Alternativ könnte aber auch das Paradies auf Erden entstehen.

Klingt interessant/irre/all of the above? Bostroms Buch Superintelligence ist bei Oxford University Press sowie in deutscher Übersetzung bei Suhrkamp erschienen.

Ich habe das Buch für Spiegel Online besprochen und den Philosophen für ein Interview in Oxford besucht, das in Zeit Campus und auf Zeit Online veröffentlicht worden ist.

Abbildung: Der Philosoph Nick Bostrom, fotografiert von Ken Tancwell (via Wikipedia / Lizenz: CC BY SA 4.0)

Roboter klauen Deinen Job? Gut so! Warum die Automatisierung eine Chance ist – und eine politische Aufgabe

In einem Essay in der aktuellen New York Review of Books, der auch kostenlos online zu lesen ist, plädiert Sue Halpern dafür, die Robotik nicht allein den Roboterforschern zu überlassen.

Denn: Die Automatisierung der Arbeit durch Roboter und Algorithmen betreffe nicht nur jene, die sie vorantreiben und die am meisten von ihr profitieren (nämlich finanziell) sondern auch alle, deren Jobs von ihr überflüssig gemacht werden könnten. Halpern verweist unter anderem auf The Future of Employment, eine Studie, derzufolge in den kommenden zwanzig Jahren ein großer Teil menschlicher Arbeit(splätze) überflüssig werden könnte.

(Nebenbemerkung: Die Süddeutsche hat einen recht lustigen Selbsttest dazu veröffentlicht: Wie wahrscheinlich ist es, dass ich durch einen Computer ersetzt werde?)

Sue Halpern hält die Automatisierungs-Lobby offenbar für wenig umsichtig, was diese Probleme angeht. Sie zitiert aus dem offenen Brief zu den Vorzügen und Gefahren der Künstlichen Intelligenz, den eine Reihe von Forschern und Investoren im Januar unterzeichnet haben (darunter auch der Philosoph Nick Bostrom, dessen Buch zum Thema ich für Spiegel Online rezensiert und den ich für die aktuelle Ausgabe von Zeit Campus interviewt habe).

Halpern schreibt über diesen Brief und die angehängte Liste mit Forschungsempfehlungen:

[T]heir research plan, for example, looks to »maximize the economic benefits of artificial intelligence while mitigating adverse effects, which could include increased inequality and unemployment.« The priorities are clear: money first, people second.

Ich finde Halperns Argumente überzeugend. Technischer Fortschritt produziert Gewinner und Verlierer (wobei es in der Realität vermutlich einen größeren Graubereich zwischen beiden geben wird, als diese polemisch verkürzte Formulierung zulässt). Das hat der technische Fortschritt mit allen anderen Formen von Veränderungen gemein. Da es sich aber um eine menschgemachte Veränderung handelt, sollte die Öffentlichkeit (aka. »We, the People«, wie Halpern in Bezug auf die amerikanische Verfassung schreibt) versuchen, einzugreifen und zu lenken.

Es gilt, demokratische Verfahren zu nutzen, um widersprüchliche Interessen zu moderieren. Sonst setzen sich am Ende die wenigen Stärksten durch, die sich durch das Vorantreiben der Automatisierung finanzielle Vorteile ausrechnen.

WeiterlesenRoboter klauen Deinen Job? Gut so! Warum die Automatisierung eine Chance ist – und eine politische Aufgabe“

Superintelligenz & Ghostwriter: Meine Texte in Zeit Campus

01

02

Abb. 1 & 2: Die neue Ausgabe von Zeit Campus (3/15, Mai/Juni 2015), inkl. meines Interviews mit Nick Bostrom

Kein Bock auf Arbeit? Gute Nachrichten: Wenn es stimmt, was der Philosoph Nick Bostrom sagt, dann ist das in Zukunft gar nicht mehr nötig. Die künstliche Superintelligenz wird uns die Arbeit abnehmen, sagt Bostrom. Sie wird für uns denken (denn das kann sie besser als wir) und fast alle unserer Probleme lösen. Neulich war ich zu Gast in Oxford, um ausführlicher mit dem Philosophen zu sprechen.

Das Interview ist in der neuen Ausgabe von Zeit Campus zu lesen, die es ab morgen am Kiosk (oder bei iTunes und im Playstore) gibt. Es ist optimistischer ausgefallen als das Buch Superintelligenz, das ich hier besprochen habe, und in dem Bostrom argumentierte, die Superintelligenz werde uns wohl nicht dienen, sondern uns vernichten.

Wer bis zur Erfindung der Superintelligenz nicht mehr warten will (vor 2075 wird es wohl nicht dazu kommen, dass Roboter schlauer sind als wir), der kann sich heute schon einen akademischen Ghostwriter nehmen, um zumindest mit universitären Haus- und Abschlussarbeiten keinen Stress mehr zu haben.

Das ist ein Verstoß gegen die Prüfungsordnung und kann u.a. mit der Exmatrikulation geahndet werden. Aber der Markt der akademischen Ghostwriter scheint trotzdem zu wachsen. Ich habe mit den Chefs einiger der größten Ghostwriting-Agenturen gesprochen, um ihre Schattenbranche besser zu verstehen. Auch dazu mehr in der neuen Zeit Campus, im ausfühlichen Ghostwriter-Report.

Weitere Einblicke ins Heft gibt’s nach dem Umbruch.

WeiterlesenSuperintelligenz & Ghostwriter: Meine Texte in Zeit Campus

Werden Roboter uns alle ermorden, Herr Bostrom?

nick-bostrom-superintelligenz

Das Ende der Menschheit: In den nächsten 30 bis 70 Jahren könnte es so weit sein, glaubt der Philosoph Nick Bostrom. Nicht wegen Pandemien, Klimakatastrophen oder allgemeinen Zerfallserscheinungen. Sondern weil es bis dahin womöglich eine Künstliche Intelligenz (KI) gibt, die schlauer ist als wir – und sich gegen uns erhebt.

Das schreibt Bostrom in seinem neuen Buch Superintelligenz, das einige heftige Reaktionen hervorgerufen hat. (Alard von Kittlitz, zum Beispiel, der bei Neon für Zukunftsthemen zuständig ist und dessen Texte ich oft sehr gerne lese, findet Bostroms Überlegungen total behämmert, wie seiner Rezension in der FAS zu entnehmen war.)

Trotzdem kommt man an den »intelligenten Computern« gerade nicht so richtig vorbei – neulich hat Stephen Hawking dazu aufgerufen, das Thema bloß nicht auf die leichte Schulter zu nehmen, morgen wird es mehr als hundert Miniessays dazu auf edge.org geben. Ich habe – als Techniklaie und KI-Agnostiker – Nick Bostroms Superintelligenz jedenfalls verschlugen wie einen aufregenden Sci-Fi-Roman.

Sollte dieser Satz nach dem Ende der Menschheit von einem Roboter ausgelesen werden, sage ich: Lach nur, Maschine! Mehr zu Bostroms Buch in meiner Rezension auf Spiegel Online.