Künstliche Intelligenz - Fluch oder Segen?

[der.enforcer 332]

Gude!

Künstliche Intelligenz (AI/KI) ist ja ein Trendthema in der Industrie aber auch mittlerweile in vielen Wohnzimmern zu finden, bzw. schleicht diese sich ja auch zunehmend in den privaten Bereich (Spiele, aber auch Bild- und Texterkennung, Sprachassistenten uvm.).

Während es im Privaten noch eher Spielereien sind (Alexa, Siri, Cortana und Co.) wird es in der Industrie schon langsam ernster: KI hilft vielen meiner Kunden beim Analysieren von Daten oder auch für Wartungsaufgaben (aktuelles Beispiel eines meiner persönlichen Kunden: Drone fliegt über Hochspannungsmasten und überprüft anhand von Bilderkennung und cognitive services die Güte der Bauteile und kann ggf. Wartungsarbeiten veranlassen). 

Auf lange Sicht wird es sehr viele Bereiche (bzw. Berufsgruppen) geben, die für den Einsatz von KI in Frage kommen. Dadurch werfen sich ja einige Fragen auf:

1. Ethik - was DARF künstliche Intelligenz überhaupt und welche Problemstellungen ergeben sich hieraus? Wer kontrolliert das und wer steuert ggf gegen? Die Verantwortung hier ist sicherlich sehr hoch, da man als Menschheit ja stets die Kontrolle über die Maschinen behalten muss und möchte. Wenn aber nun künftig viele Entscheidungen von Algorithmen getroffen werden, kann das echte Auswirkungen auf den Menschen haben. Beispiel: Kreditvergabe anhand von Big Data ohne den menschlichen Bankberater, der einem da ggf. hilft weil man eine lange Kundenbeziehung hat. Von skynet und dem Terminator will ich an dieser Stelle gar nicht anfangen... Oder bremst mein Tesla in einer Notsituation für ein Kind oder eine Oma und nimmt ggf. in Kauf dass ich selbst dabei verletzt werde?

2. Arbeitsplätze - ist mein Job denn auch künftig noch sicher? Kann ich meine freigewordene Zeit dann anders/sinnvoller nutzen (z.B: schwierigere und komplexere Themen bearbeiten und die "no-brainer" vom Computer erledigen lassen? In Japan gibt es z.B. schon erste Pflegeroboter, die sich um alte und kranke kümmern. 

3. Lebenshilfe für Menschen - bereits heute haben wir bei Microsoft z.B. eine AR Brille (augmented reality: Einblendungen von Grafiken und Ton ins reale Bild), mit deren Hilfe blinde Menschen die Umgebung scannen können und von der Brille gesagt bekommen, was um sie herum passiert. Siehe hier: 

übrigens: im AppStore von Apple könnt ihr nach "seeing AI" suchen und euch dort die App aus der Brille aufs smartphone installieren und damit spielen, kostet auch nichts. Am PC gibt es im Windows Store auch entsprechende Apps, die die cognitive services von Azure (Microsofts Cloud) verfügbar machen.

oder hier:

https://www.microsoft.com/en-us/ai/ai-for-humanitarian-action

KI wird genutzt, um auf Naturkatastrophen zu reagieren oder um die medizinische Forschung voranzutreiben.

4. Bildung und Wissenschaft - nehmen wir mal das JFK Files Project. letztes Jahr wurden sämtliche FBI und andere Regierungsakten zum Mord an JFK öffentlich gemacht. Microsoft hat ein Projekt gestartet, mit Hilfe von KI alle diese Akten zu analysieren und auch schwierige, handschriftliche Akten lesbar zu machen und hat diese mit Schlagworten und Index versehen. Jeder Mensch ist nun in der Lage, sich einfach selbst durch diese Aktenberge zu lesen und die Ermittlungen nachvollziehbar zu machen.

https://blogs.technet.microsoft.com/machinelearning/2017/11/15/gain-insights-into-the-jfk-files-with-azure-search-and-cognitive-services/

 

Das sind ja nur einige der Möglichkeiten (und auch andere Unternehmen als Microsoft setzen KI gewinnbringend für die ganze Menschheit ein - und nicht nur für kommerzielle Zwecke!) und die Einsatzszenarien sind quasi unendlich. Wichtig ist eben, dass die Allgemeinheit was davon haben sollte und diese mächtige Technologie nicht nur zu kommerziellen Zwecken genutzt wird.

Wie denkt ihr darüber? Fluch oder Segen? Wirklich sinnvolle Entwicklungsstufe oder eher eine kapitalistische Geißel der Menschheit?

Ich finde das Thema jedenfalls äußerst spannend und bin froh, mich auch beruflich mit solchen Dingen auseinander setzen zu können und ganz dicht dran zu sein.

[Underdog 4368]

Ich bin zwar im Kern ein großer Verfechter der KI und denke nicht das sich daraus eine Art „Skynet“ entwickeln könnte, allerdings ist das so ähnlich als würde ein Mensch aus dem 18. Jahrhundert behaupten, dass die Luftfahrt sich unmöglich zu etwas entwickeln wird was imstande ist die ganze Welt auszuradieren (-aka ICBMs). Vom damaligen Standpunkt aus betrachtet eine durchaus verständlich Annahme, 250 Jahre später…nicht!

Die Frage ist nicht unbedingt welche Aufgaben man einer KI zutraut, sondern wieviel Verantwortung man ihr überträgt. Denn es besteht immer auch die Gefahr das rein aus der Bequemlichkeit heraus schwierige Entscheidungen an eine KI übergeben werden und wenn man sich an so eine Vorgehensweise erstmal gewöhnt hat, kann das eine Abwärtsspirale werden. Unter anderem wird dann bspw. Krieg noch abstrakter als er jetzt schon ist. Ich denke da an autonome Drohnen in Kriegsgebieten, die einsam ihre Bahnen ziehen und durch Analyse und Datenalgorithmen Ziele auswählen und bekämpfen und je besser die KI wird, desto stärker ist man versucht ihr freie Hand zu lassen.  

Kurzum, wo fängt es an und wo hört es auf, oder um es etwas theatralischer zu sagen…Der Weg in die Hölle ist mit guten Absichten gepflastert.

Letztendlich das aber nur ein Gedankenspiel und die Möglichkeiten für einen positiven Einsatz und eine echte Verbesserung des Lebens mittels KI sind mindestens genauso zahlreich wie es negative Szenarien gibt.  

Deus ex Machina?...mal sehen.

Bearbeitet 12. Dezember 2018 von Underdog

[SirGutz 913]

Ki ist es erst für mich wenn sie Lernfähig ist oder selbstständig Entscheidungen treffen kann aus den Erfahrungen die es selber gemacht hat oder die gemacht wurden von anderen KIs (yay Skynet). Alles andere ist ein billiger Algorithmus der runtergezuckelt und per kalter Wahrscheinlichkeit das "Entscheidungsereignis" triggert. 

Alexa und Co sind einfach nur der feuchte Traum jeder Stasi

[der.enforcer 332]

Naja, lernfähig ist sie ja heute bereits und durch immer komplexere neuronale Netze auch stets effektiver darin.

das mit der Verantwortung ist tatsächlich ein Dilemma, denn letztlich wird es genau darauf hinauslaufen dass die unbequemen Dinge abgedrückt werden. 

Die Ethik rund um diese Fragen wird schwieriger zu beantworten sein als die technische Einsetzbarkeit überhaupt.

[Underdog 4368]

SirGutz, vor 59 Minuten:

Ki ist es erst für mich wenn sie Lernfähig ist oder selbstständig Entscheidungen treffen kann aus den Erfahrungen die es selber gemacht hat oder die gemacht wurden von anderen KIs (yay Skynet). Alles andere ist ein billiger Algorithmus der runtergezuckelt und per kalter Wahrscheinlichkeit das "Entscheidungsereignis" triggert. 

Du sprichst vielmehr von einem "Bewusstsein", dass muss aber nicht zwangläufig Bestandteil einer KI sein. Eine hochentwickelte KI die letztlich "nur" 1+1 ausrechnet, könnte dennoch eine komplette Stadt steuern und verwalten und das besser als jeder Mensch....um darin die Macht zu ergreifen, wäre dann allerdings erstgenanntes zwingende Voraussetzung. >:D 

 

[Master AP 637]

Underdog, vor einer Stunde:

Du sprichst vielmehr von einem "Bewusstsein", dass muss aber nicht zwangläufig Bestandteil einer KI sein. Eine hochentwickelte KI die letztlich "nur" 1+1 ausrechnet, könnte dennoch eine komplette Stadt steuern und verwalten und das besser als jeder Mensch....um darin die Macht zu ergreifen, wäre dann allerdings erstgenanntes zwingende Voraussetzung. >:D 

 

Hmm nicht unbedingt wenn die KI die schlussfolgerung anhand ihrer bisherigen Erfahrungen macht dass die meisten probleme am effizientesten gelöst werden können wenn sie die macht übernimmt, dann würde sie das vermutlich auch tun  Is ja nicht so dass die KI in dota 2 genau solche ansätze bereits hat. Spielt 1000000 senarien durch und entscheidet dann was die beste handlung aufgrund dessen ist, viele Progamer haben bestimmte taktiken/spielstile von der KI bereits übernommen, weil die einfach sachen gemacht hat wo noch keiner drüber nachgedacht hat. Unser Umgang, und damit meine ich nicht notwendigerweise wie man sie programiert(wobei das natürlich auch einen Einfluss hat), aber wie wir uns als gesellschaft gegenüber einer selbstlernenden KI verhalten, bestimmt letztenendlich welche entscheidungen diese trifft. Ich würde die KI im anfangsstadium wie ein Kind vergleichen dass dann entweder zum kompletten Soziopathen (aka skynet etc) wird oder zu ner symbiose fähig. Und wenn ich mir die Menschheit derzeit so ansehe.... sehe ich irgendwie die erste option als wahrscheinlicher. (abgesehen davon denk ich nicht dass die AI technologie so weit sein wird, zumindest in meinen lebzeiten nicht mehr). Ich denke Solange die AI auf lokalisierte bereiche eingesetzt wird, haben wir die kontrolle darüber. Die frage wird aber dann eher sein wenn die AI in geschlossenen systemen arbeitet die aber ans internet angeschlossen sind, besteht immer die Wahrscheinlichkeit dass diese AI irgendwann ein schlupfloch findet und plötzlich ungewollt "kontakt" mit anderen AI systemen aufnimmt. Ich denke das wäre etwas was wir zuerst garnicht bemerken. Und ich sehe diese Wahrscheinlichkeit auch desehalb so hoch weil es auch nur ein paar verrückte Programmierer dafür benötigt die soetwas dann erschaffen.

Das problem ist der Mensch hat schon seit der existenz der zivilisation versucht "perfekte systeme" zu erschaffen in denen er leben kann, staatsformen, religionen, komunen etc... . Die meisten realisieren dabei nicht dass jedes system noch so perfekt sien kann wenn der grund zum versagen eines Systems immer der Mensch selber ist. Die AI ist genau so ein system. Nur diesesmal schaffen wir ein System dass nicht nur starr und zerbrechlich ist, sondern eines das irgendwann entscheidungen trifft, wächst und lernt. Und jedes system hat bisher dazu geführt dass entweder das system begonnen hat die Menschen zu unterdrücken, die Menschen sich gegen das system aufgelehnt haben oder das system selber für äussere bedrohungen zu schwach war, was bei einer Weltumspannenden KI nicht wirklich der fall mehr wäre. Also persönlich seh ich schon eher die Wahrscheinlichkeit einer Skynet variante, was aber nicht notwendigerweise sofort schlecht sein muss. 

Bearbeitet 12. Dezember 2018 von Master AP

[der.enforcer 332]

Master AP, vor 9 Stunden:

[...] Unser Umgang, und damit meine ich nicht notwendigerweise wie man sie programiert(wobei das natürlich auch einen Einfluss hat), aber wie wir uns als gesellschaft gegenüber einer selbstlernenden KI verhalten, bestimmt letztenendlich welche entscheidungen diese trifft. Ich würde die KI im anfangsstadium wie ein Kind vergleichen dass dann entweder zum kompletten Soziopathen (aka skynet etc) wird oder zu ner symbiose fähig. Und wenn ich mir die Menschheit derzeit so ansehe.... sehe ich irgendwie die erste option als wahrscheinlicher. (abgesehen davon denk ich nicht dass die AI technologie so weit sein wird, zumindest in meinen lebzeiten nicht mehr). [...]

Ein interessanter Gedanke und dazu fällt mir die etwas unrühmliche Geschichte von vor zwei Jahren ein, als Microsoft einen Bot online gestellt hat, der innerhalb kürzester Zeit zum totalen Asi wurde:https://www.zeit.de/digital/internet/2016-03/microsoft-tay-chatbot-twitter-rassistisch

Das ist ja ein Grundproblem: derzeit bedeutet "Intelligenz" ja meist noch dass anhand ursprünglich antrainierten Erfahrungen die KI dann eigene Schlüsse zieht und das System verfeinert.Wenn nun aber bereits die Basis "schlecht" ist und auch das Training aus fragwürdigen Handlungen und Informationen besteht, kann es nur schlechter werden..

Master AP, vor 9 Stunden:

Ich denke Solange die AI auf lokalisierte bereiche eingesetzt wird, haben wir die kontrolle darüber. Die frage wird aber dann eher sein wenn die AI in geschlossenen systemen arbeitet die aber ans internet angeschlossen sind, besteht immer die Wahrscheinlichkeit dass diese AI irgendwann ein schlupfloch findet und plötzlich ungewollt "kontakt" mit anderen AI systemen aufnimmt. Ich denke das wäre etwas was wir zuerst garnicht bemerken. Und ich sehe diese Wahrscheinlichkeit auch desehalb so hoch weil es auch nur ein paar verrückte Programmierer dafür benötigt die soetwas dann erschaffen.

Auch hierzu gab es bereits eine lustige Geschichte: Facebook hatte vor einiger Zeit zwei Computer miteinander kommunizieren lassen. Doch als diese sich plötzlich auf einer unbekannten Sprache unterhielten, haben die Forscher Schiss bekommen und sicherheitshalber den Stecker gezogen... https://www.silicon.de/41654841/facebook-stellt-sich-verselbstaendigendes-ki-system-ab

In diesem Fall hat die KI entschieden dass das gestellte Problem besser in einer anderen Sprache als Englisch zu lösen sei. Violà: die erste selbstständige Entscheidung eines (scheinbar) überlegenen Systems...

 

[Master AP 637]

der.enforcer, vor 6 Stunden:

Ein interessanter Gedanke und dazu fällt mir die etwas unrühmliche Geschichte von vor zwei Jahren ein, als Microsoft einen Bot online gestellt hat, der innerhalb kürzester Zeit zum totalen Asi wurde:https://www.zeit.de/digital/internet/2016-03/microsoft-tay-chatbot-twitter-rassistisch

Das ist ja ein Grundproblem: derzeit bedeutet "Intelligenz" ja meist noch dass anhand ursprünglich antrainierten Erfahrungen die KI dann eigene Schlüsse zieht und das System verfeinert.Wenn nun aber bereits die Basis "schlecht" ist und auch das Training aus fragwürdigen Handlungen und Informationen besteht, kann es nur schlechter werden..

Auch hierzu gab es bereits eine lustige Geschichte: Facebook hatte vor einiger Zeit zwei Computer miteinander kommunizieren lassen. Doch als diese sich plötzlich auf einer unbekannten Sprache unterhielten, haben die Forscher Schiss bekommen und sicherheitshalber den Stecker gezogen... https://www.silicon.de/41654841/facebook-stellt-sich-verselbstaendigendes-ki-system-ab

In diesem Fall hat die KI entschieden dass das gestellte Problem besser in einer anderen Sprache als Englisch zu lösen sei. Violà: die erste selbstständige Entscheidung eines (scheinbar) überlegenen Systems...

 

jap kenn beide stories  

Und ja das ist ja die Ironie daran wir schaffen uns wieder nur ein system das uns das leben erleichtern soll aber zum scheitern verurteilt ist, oder mehr noch die KI wird nicht scheitern, sie wird das machen zudem sie fähig ist, sie wird eine Lösung finden, diese Lösung wird uns vermutlich nur nicht gefallen(zumindest nicht allen)  

Darum gibt es ja auch diese these(ka mehr wie die heißt) dass die Erschaffung einer KI unausweichlich ist, und man besser alles tun sollte um diesen entstehungsprozess zu fördern in der hoffnung dass diese dann einen nicht als bedrohung sieht.

Also passt auf was ihr hier schreibt das zukünftige Skynet sieht alles 

Bearbeitet 13. Dezember 2018 von Master AP

[maettle 246]

"ki" ist einfach ein marketingbegriff, das sind momentan nur statistikroboter, die sehr spezialisiert sind.

irgendwelche moral oder ethik einzuprogrammieren ist ja evtl. machbar, aber da sollte man nicht das bild vor augen haben, dass das dann neutral wäre, siehe diese gefangenenrückfälligkeitsrate-ki aus den usa: stark rassistisch aufgrund des "lernmaterials" geprägt.

zu dem thema ist auf golem kürzlich ein artikel erschienen, der meine meinung recht gut widerspiegelt: https://www.golem.de/news/digitalisierung-nein-ethik-kann-man-nicht-programmieren-1812-138159.html

 

[Chuck Norris 116]

Bevor wir uns weiter mit der künstlichen Intelligenz befassen, sollten wir die natürliche Dummheit in den Griff bekommen.

[Arcaras 1731]

Was ist aber jetzt einfacher ???

[Master AP 637]

Arcaras, vor 9 Stunden:

Was ist aber jetzt einfacher ???

eine geniale frage. 😂

maettle, um 13.12.2018 at 17:57:

"ki" ist einfach ein marketingbegriff, das sind momentan nur statistikroboter, die sehr spezialisiert sind.

irgendwelche moral oder ethik einzuprogrammieren ist ja evtl. machbar, aber da sollte man nicht das bild vor augen haben, dass das dann neutral wäre, siehe diese gefangenenrückfälligkeitsrate-ki aus den usa: stark rassistisch aufgrund des "lernmaterials" geprägt.

zu dem thema ist auf golem kürzlich ein artikel erschienen, der meine meinung recht gut widerspiegelt: https://www.golem.de/news/digitalisierung-nein-ethik-kann-man-nicht-programmieren-1812-138159.html

 

Hmm genau das meinte ich mit meinem früheren posting oben, dass dann quasi jeder für sein schicksal selber verantwortlich sein wird, ergo wirst du ne bedrohung für die gesellschaft wird die KI ne drohne losschicken und das problem lösen(im schlimmsten fall) 
Der vorteil wäre natürlich dass die KI frei von jeder Ideologie ist und es wird sehr schwer sein sie zu manipulieren (wenn überhaupt).

Bearbeitet 14. Dezember 2018 von Master AP

[Underdog 4368]

Chuck Norris, vor 9 Stunden:

Bevor wir uns weiter mit der künstlichen Intelligenz befassen, sollten wir die natürliche Dummheit in den Griff bekommen.

Die ist leider unendlich.

[Master AP 637]

Keine ahnung wärs nicht fast besser den thread in "gesellschaft&Politik" zu verlegen?