Künstliche Intelligenz

[fraktal]

Als ich diesen Artikel gelesen hatte musste ich lachen.
Gleichzeitig machte sich eine deutliche Gänsehaut bemerkbar.

https://www.heise.de/news/Simulation...V7u8CUpm6O2Z4M


Kurz:
Man hat während einer Simulation der KI die Kontrolle über die Drohnen gegeben. Ziel war die Zerstörung feindlicher Raketenstellungen.
Es gab Punkte für jedes zerstörte Ziel.

Nach einiger Zeit kam die KI zum Ergebnis dass der Führungsoffizier (Operator) dabei ein Hindernis sei und brachte ihn kurzerhand um!

Daraufhin sagte man der KI dass es verboten sei den Operator umzubringen.

Dann zerstörte die KI den Funkturm, damit der Operator nicht mehr mit ihr kommunizieren konnte!!!

Dazu fällt mir der Satz aus "Terminator" ein:

"Man merkte das Skynet ein eigenes Bewustsein entwickelte. In Panik versuchte man den Stecker zu ziehen.
Skynet wehrte sich"

[Proteus]

Es gibt dazu aber mittlerweile eine Richtigstellung von Hamilton, dass es sich nicht um eine reale Simulation gehandelt habe, sondern um ein Gedankenexperiment.

Aus deinem Heise-Link:

Bei der "Simulation einer außer Kontrolle geratenen KI-Drohne" habe es sich lediglich um ein "hypothetisches Gedankenexperiment" gehandelt, das von außerhalb der Basis stammte. Das habe aber auf "plausiblen Szenarien" und "wahrscheinlichen Resultaten" beruht: "Wir haben das Experiment nicht durchgeführt und müssten es auch nicht, um zum Schluss zu kommen, dass es plausibel ist", meint Hamilton demnach.

[fraktal]

Es gibt dazu aber mittlerweile eine Richtigstellung von Hamilton, dass es sich nicht um eine reale Simulation gehandelt habe, sondern um ein Gedankenexperiment.

Aus deinem Heise-Link:

Ah, ok, das hab ich in meinem Eifer glatt übersehen oder nicht wahrgenommen.


Trotzdem sind die Erkenntnisse schon, nunja, sie erinnern fatal an Dinge die man aus SF Filmen kennt.

Und wer weiß was hinter den Kulissen läuft von dem niemand erfährt.

Die KIs scheinen mittlerweile exzellente Problemlöser zu sein. Und sie "denken" unkonventionell, wie man am Beispiel sieht.


Ich muss da immer wieder an das exzellente Buch von Dan Simmons denken "Die Hyperion Gesänge". Dort wird ein erschreckendes Bild der Macht von zukünftigen KIs skizziert, die ihre Anfänge in unserer, jetzigen Zeit nahmen.

[Proteus]

Ah, ok, das hab ich in meinem Eifer glatt übersehen oder nicht wahrgenommen.

Trotzdem sind die Erkenntnisse schon, nunja, sie erinnern fatal an Dinge die man aus SF Filmen kennt.

Und wer weiß was hinter den Kulissen läuft von dem niemand erfährt.

Die KIs scheinen mittlerweile exzellente Problemlöser zu sein. Und sie "denken" unkonventionell, wie man am Beispiel sieht.

Ich muss da immer wieder an das exzellente Buch von Dan Simmons denken "Die Hyperion Gesänge". Dort wird ein erschreckendes Bild der Macht von zukünftigen KIs skizziert, die ihre Anfänge in unserer, jetzigen Zeit nahmen.

In Sachen unkonventionelles Denken gab es eh schon vor mehr als 2 Jahrzehnten ein sehr interessantes Experiment.

Es gibt da eine Spieleserie namens "Creatures", das im Prinzip auf der Anwendung von evolutionären Algorithmen, sowie eines ANNs beruht.

In dem Spiel zieht man Kreaturen namens "Norns" auf die in ihrer Spielewelt autonom handeln können, Hunger verspüren und Durst, und sich fortpflanzen können.
Ihr Gehirn wird durch ein ANN mit diversen Gehirnzentren dargestellt, wobei das individuelle Gehirn jedes Norns durch dessen Gene bestimmt wird (und natürlich auch durch Lernvorgänge neue Verknüpfungen bilden kann), so dass auch bei der Fortpflanzung wieder ein Norn enmtsteht, dessen Gehirn von Geburt an individuell ist und von der Kombination der Gene von Mutter- und Vater-Norn bestimmt.

Jedenfalls ist die britische Royal Airforce vor einem Vierteljahrhundert hingegangen und hat diese Norns in die Cockpits von militärischen Flugzeugsimulatoren gesteckt, und hat den Norns die Kontrolle über das Steuer gelassen ... und die Norns die sich am Besten anstellten sich vermehren lassen.
Tausende Norns sind abgestürzt ... aber nach etlichen Generationen haben die Norns nicht nur gelernt, wie man das Flugzeug in der Luft hält, sondern konnten Flugmanöver durchführen, zu welchen Menschen aufgrund der Beschränkungen in Bezug auf G-Kräfte nie in der Lage wären.

Siehe auch hier:
https://www.spiegel.de/wissenschaft/...0-000007898339

Und das war, wie gesagt, vor einem Vierteljahrhundert, als die neuronalen Netzwerke noch nicht so ausgereift waren wie die DCNNs die man heute benutzt.

[DiMucci]

Die Gefahr geht doch eher von den Leuten aus, die solchen Techniken missbrauchen.

Ich habe keine Angst, dass sich KI irgendwann selbstständig macht.

[Proteus]

Naja, das Lustige ist dass man bei trainierten Algorithmen (wie ANNs) tatsächlich eine Menge an Überraschungen erleben kann.

Man denke nur an den Chatbot von Microsoft, Tay, welcher, kaum in die freie Wildbahn von Twitter entlassen, innerhalb kürzester Zeit rechtsextreme, antisemitische, LGBT-feindliche, verschwörungstheoretische Züge zeigte

https://www.theguardian.com/world/20...semitic-racism
https://www.theverge.com/2016/3/24/1...chatbot-racist


Ich würde tatsächlich, genau wie Hamilton, nicht ausschließen dass eine Drohnen-KI wirklich zu dem Schluß kommen könnte, dass das Ausschalten von freundlichen Einheiten oder ihres eigenen Operators ihren Zielen dienlioch sein könnte

[SnakeX]

Als ich diesen Artikel gelesen hatte musste ich lachen.
Gleichzeitig machte sich eine deutliche Gänsehaut bemerkbar.

Das erinnert mich alles an das hier:
https://www.youtube.com/watch?v=XetTVNtzTW8
aus dem Film "Dark Star" einem Raumschiff welches mit intelligenten Atombomben instabile Planeten wegsprengt, die bei der Besiedlung anderer Sonnensysteme stören.
Eine der Bomben bleibt durch eine Fehlfunktion im Schacht hängen, aber besteht darauf wie vorgesehen in 15 min zu explodieren. Ein Mitglied der Crew versucht in letzter Minute mit der Bombe zu philosophieren, dass ihre Detonation keinen Sinn ergibt solange sie noch am Raumschiff hängt.
Wer dieses Meisterwerk noch nicht kennt hat was verpasst. Gibt es auf youtube auch komplett zu sehen.

[Proteus]

Die philosophische Diskussion mit der Bombe muss man wirklich gesehen haben

[fraktal]

Das erinnert mich alles an das hier:
https://www.youtube.com/watch?v=XetTVNtzTW8
aus dem Film "Dark Star" einem Raumschiff welches mit intelligenten Atombomben instabile Planeten wegsprengt, die bei der Besiedlung anderer Sonnensysteme stören.
Eine der Bomben bleibt durch eine Fehlfunktion im Schacht hängen, aber besteht darauf wie vorgesehen in 15 min zu explodieren. Ein Mitglied der Crew versucht in letzter Minute mit der Bombe zu philosophieren, dass ihre Detonation keinen Sinn ergibt solange sie noch am Raumschiff hängt.
Wer dieses Meisterwerk noch nicht kennt hat was verpasst. Gibt es auf youtube auch komplett zu sehen.

"Dark Star" ist Kult!

"Jemand muss den Exoten füttern"

[fraktal]

Was ich auch noch anmerken möchte:

Gäbe es eine KI, deren "Lebensraum" das Internet wäre, verteilt auf vielen Rechner, unbemerkt von den Menschen. Welche Ziele könnte sie haben?

Ich denke sie würde daran arbeiten das es soviele wie möglich vernetzte Rechner im Internet gäbe. Dieses Internet müsste so groß und ausgedehnt werden wie möglich. Die Bandbreite müsste auch möglichst groß werden. Lebensraum für die KI!


Und was ist in den letzten 20 Jahren so passiert? :-)

[hotblack]

Und was ist in den letzten 20 Jahren so passiert? :-)

Die ganzen Wirrköpfe mit natürlicher Dummheit spammen das Internet mit Verschwörungstheorien zu.

[nightmare]

Die ganzen Wirrköpfe mit natürlicher Dummheit spammen das Internet mit Verschwörungstheorien zu.

Oder die KI will uns ausgerechnet dies vorgaukeln.

[Little_Ally]

Das EU-Parlament hat sich auf ein Gesetz zur Regulierung von Künstlicher Intelligenz geeinigt. Es verbietet Anwendungen, die mit hohen Risiken für die Sicherheit verbunden sind - etwa Gesichtserkennung. Experten begrüßen die Entscheidung.

Das kann vermutlich nicht schaden.

[Proteus]

Das EU-Parlament hat sich auf ein Gesetz zur Regulierung von Künstlicher Intelligenz geeinigt. Es verbietet Anwendungen, die mit hohen Risiken für die Sicherheit verbunden sind - etwa Gesichtserkennung. Experten begrüßen die Entscheidung.

Das kann vermutlich nicht schaden.

Naja, eine Gefahr steht schon im Artikel selbst:

"Aus dem 'AI Act' darf kein 'Software Act' werden, der alle statistischen Systeme oder sogar nahezu jegliche Software regulatorisch erfasst."

Gerade etwas was in dem Artikel erwähnt wird, nämlich "Menschen nach ihrem sozialen Verhalten oder ethnischen Merkmalen klassifizieren" hat man schon bei normalen Datamining-Algorithmen, die ich nicht notwendigerweise als "KI" bezeichnen würde, beispielsweise kNN-Clustering oder SVMs.

Und leider, so wie ich die EU einschätze, ist die Gefahr sehr real, dass am Ende irgendeine Regulation rauskommt, in der jeder der sich nur im Entferntesten mit Datamining beschäftigt, erst einmal nachweisen muss dass in der Entwicklung keine "KI-Algorithmen" verwendet werden

(ganz abgesehen davon dass ich befürchte dass in Überregulaton von Datenschutz u.Ä. am Ende eventuell nicht einmal mehr medizinisch sinnvolle KI-Anwendungen, wie beispielsweise jene die versuchen aus den Gendaten von Patienten Krebsmarker u.Ä. zu bestimmen, erlaubt sein werden (im Sinne von "die Gendaten der Patienten gehören ihnen"))

[Proteus]

Hier mal wieder ein neuer Erfolg der KI-Forschung:

Sortieren von Listen spielt in der Informatik eine sehr wichtige Rolle, gerade beim Datamining.
Nun hat eine KI (AlphaDev, eine Weiterentwicklung der Brettspiel-KI AlphaZero) einen Algorithmus auf Basis von C++/Assembler entwickelt, der 3 mal schneller ist, als der beste von Menschen entwickelte Sortieralgorithmus

See here:
https://www.spektrum.de/news/deep-mi...ithmen/2149041



Gerade solche Erfolge spiegeln für mich auch erheblich eher den momentanen Stand und Nutzen der KI-Forschung wieder, als die Frage danach, ob KI ein künstliches Bewusstsein entwickeln könnte.
Von Artifical Consciousness und einer KI die aus sich selbst heraus handelt, sind wir noch ein paar Welten entfernt.
Wenngleich KIs, wenn sie erst einmal angelernt wurden, vor allem im Falle von ANNs (Künstlichen Neuronalen Netzen) bzw. DCNNs (Tiefen verschachtelten neuronalen Netzen) definitiv eine Black Box darstellen, bei denen Menschen sich zwar die Belegungen der neuronalen Verbindungen der einzelnen (zwischen Ein-und Ausgabeshcicht liegenden) neuronalen Schichten ausgeben lassen können, diese aber wegen der Komplexität schwerlich verstehen können.