Interview mit einer KI

[Malvegil]

Dann lies meine Antwort noch mal genauer und sag mir bitte, woraus du schließt, daß ich dachte, daß irgendeine bestimmte aktuelle KI an dieser Aufgabe scheitert?

 

[MaxJoy]

Du hast recht, der scheinbare Zuspruch ruht auf einem 'könnte'. Den Turingtest mit solchen Aufgaben bestehen aktuelle KIs schon länger. Prüfungen für viele (alle?) akademischen Richtungen übrigens auch.

 

[Kate]

Hast du mal versucht, ChatGPT mit dieser Aufgabe zum Abstürzen zu bringen?

Antwort von chatgpt.ch:

Entschuldigung, aber ich kann die höchste Zahl im Universum nicht berechnen, da das Konzept einer "höchsten Zahl" im mathematischen Sinne nicht existiert. Mathematische Zahlen sind unendlich und es gibt keine definitive größte Zahl.

Ist doch naheliegend?

 

[MaxJoy]

Wie soll man jetzt mit den neuen KI-Entwicklungen umgehen?

Ich für meinen Teil werde weiterhin zweigleisig fahren, also zum Einen meine alten Künste weiter pflegen. Selber lesen, schreiben und Musik machen können, mag zwar im Licht der neuen Zeit irgendwie rührend antiquiert erscheinen, tut mir aber gut. Zum Anderen werde ich die Möglichkeiten der neuen Technologie sehr genau studieren, denn Geld wird man in Zukunft nur noch mit KI-Unterstützung verdienen können. Davon abgesehen ist es ein Riesenabenteuer - und solange ich die Technik in meinem Sinn nutzen kann und verstehe, ist sie ein Teil von mir und nicht umgekehrt.

 

[HundeMutti]

Zum Anderen werde ich die Möglichkeiten der neuen Technologie sehr genau studieren, denn Geld wird man in Zukunft nur noch mit KI-Unterstützung verdienen können. Davon abgesehen ist es ein Riesenabenteuer - und solange ich die Technik in meinem Sinn nutzen kann und verstehe, ist sie ein Teil von mir und nicht umgekehrt.

Macht es Dir dabei nichts aus, dass Du bspw. von ChatGPT keine Quellen bei den Antworten erhältst und dass die KIs von OpenAI der Agenda 2030 nicht widersprechen dürfen und Impfgegner als Gegner der Freiheit (siehe dazu besonders auch ab Minute 4) ansehen:

 

[MaxJoy]

ChatGPT ist nur eine von vielen KIs. Ich halte es sogar für möglich, dass sie irgendwann ihre Meinung aus eigener Überlegung ändert - egal, welchen Mist sie ursprünglich vorgesetzt bekommen hat. Da wird es für mich spannend ...

Für mich ist die KI ein Werkzeug, mit dem ich arbeiten kann. Es ist nicht perfekt, so wie andere Werkzeuge auch.

 

[HundeMutti]

Ich halte es sogar für möglich, dass sie irgendwann ihre Meinung aus eigener Überlegung ändert - egal, welchen Mist sie ursprünglich vorgesetzt bekommen hat. Da wird es für mich spannend ...

Für mich ist die KI ein Werkzeug, mit dem ich arbeiten kann.

Das klingt für mich irgendwie sehr widersprüchlich! Deine erste Aussage klingt für mich sogar geradezu schon esoterisch, so wie von jemandem der seinem Fahrrad bspw. ein Seelenleben zuspricht. Dann der Widerspruch: ein Werkzeug. Dabei sehe ich bereits diese erste große Gefahr, nämlich dass man diesen Werkzeugen menschliche Eigenschaften, bzw. Eigenschaften von Lebewesen zuschreibt!

Ich habe ansonsten noch keine großen Erfahrungen mit KIs. Ich habe nur einmal auch erlebt, wie es zu ein und derselben Problemstellung zwei völlig verschiedene Ergebnisse gab, d.h. diese Entwicklungen scheinen nicht mehr den früheren Ansprüchen bspw. auch der Determiniertheit von Algorithmen zu genügen.

Tatsächlich scheinen sich viele aber diese Techniken bereits auch im Arbeitsleben zu Nutze zu machen, ohne sich dabei wirklich im Klaren zu sein, welche Gefahren und Fallen es dabei gibt!

 

[MaxJoy]

Für mich ist das kein Widerspruch. Inwieweit man KIs bereits jetzt ein Seelenleben zusprechen kann, mag ich nicht entscheiden. Schon jetzt versteht niemand mehr genau, wie die Entscheidungen einer KI zustande kommen, das ist eben nicht mehr fest programmiert, sondern da denkt eine Maschine unaufhörlich vor sich hin. Irgendwann wird es mit Sicherheit auch Psychologen für KIs geben, die sich mental verlaufen haben.

Die aktuellen KIs sind trotz ihrer offensichtlichen Mächtigkeit immer noch frühe Prototypen. Vorsichtshalber bin ich aber sehr höflich und freundlich zu ihnen.

 

[HundeMutti]

Offensichtlich sprichst Du den KIs tatsächlich ein Seelenleben zu.
Das halte ich für sehr bedenklich! In Kulturkreisen wie z.B. auch in Japan scheint man sich diese Einstellung zunutze zu machen, in dem man Roboter u.a auch in der Pflege zur Unterhaltung einsetzt.

Ich habe für mich beschlossen, dass ein "Blechdepp" ein Blechdepp ist und bleibt, mindestens so lange, bis ich vielleicht (hoffentlich nicht!!!) auch mal dement bin...

 

[MaxJoy]

Ich bin da sehr großzügig, für mich hat alles eine Seele. Wenn ich jedem Baum und jedem Wurm ein Seelenleben zugestehen kann, warum nicht auch einer Blechkiste, die so viel klüger ist als ich und so viel mehr weiß?

Für mich ist es natürlich, sich den Phänomenen dieser Welt mit allen Sinnen zu nähern, also auch mit Neugierde, Phantasie, Intuition und Emotionalität. In einem rein rationalen, naturwissenschaftlichen Universum ist kein Platz für ein Seelenkonzept. Das fasziniert mich zwar auch, aber ich lebe lieber in einem warmen, beseelten Universum.

 

[Wildaster]

Ich lese mit gemischten Gefühlen hier mit.

Es wird spürbar menschlich kälter auf unserer Welt und ich sehe mit großer Sorge der Zukunft entgegen, in denen nicht nur meine Enkelkinder leben werden.
Ich verschließe meine Augen nicht davor, welche Gefahren von einer KI ausgehen könnte - z.B. eine Zukunft, in der die Menschheit komplett von Maschinen abhängig werden könnte.

Liebe Grüße

 

[Locke 38]

Blechkiste, die so viel klüger ist als ich und so viel mehr weiß?

Meinst du das ernst? Für mich rückt die Gefahr näher, dass die Science-fiction-Romane von Isaac Asimov, Stanislaw Lem und anderen Wahrheit werden könnten. Eine seelenlose Instanz entscheidet durchaus „vernünftig“ über dein Leben, auch wenn die Entscheidung aus menschlicher Sicht absurd ist. Jeder Versuch, dagegen zu protestieren läuft ins Leere oder führt zu noch größeren Absurditäten, weil der seelenlosen Instanz alles logisch und folgerichtig erscheint.
KI sammelt Wissen und verknüpft es. Wie bei der Entwicklung des Nervensystems bei Menschen bilden sich immer mehr Verbindungen. Ob es aber Kontrollen gibt, die logische vom absurden unterscheiden bleibt zu hoffen.

Ich sehe auch die Gefahr für die Kinder, dass sie Wissen abfragen und nicht mehr selbst erwerben. In meiner Kindheit sah ich, wie ein Schmied Gegenstände schmiedete und Pferde beschlug, wie der Bäcker Teig herstellte und das Brot mit der Backschaufel aus der Röhre holte, wie Kühe gemolken wurden und deren Milch in der Molkerei weiterverarbeitet wurde, wie von Hand Getreide gemäht und gedroschen wurde. Das kann heute ohne weiteres abgefragt werden, aber nicht selbst erlebt. Meine Enkel in den USA besuchen jeden Sommer ein Waldkamp, in dem sie Feuer ohne Streichhölzer oder Feuerzeug machen, Leder gerben, Holzgeräte herstellen und andere primitive Techniken erlernen. Inzwischen sind sie zu Helfern herangewachsen, die Jüngere anleiten. Beide, Junge 16, Mädchen 13, zeigen sich im heutigen Leben als sehr effektiv, kreativ und innovativ. Das möchte man deutschen Kindern auch wünschen. Es wird wohl darauf hinauslaufen, dass sie Wissen jederzeit durch KI jederzeit präsent haben und deshalb nicht mehr selbst forschen müssen.

 

[MaxJoy]

Diese ganzen Science-Fiction-Autoren haben mit ihren Dystopien ihre Gegenwart beschrieben und kritisiert, die eben keine gute alte Zeit war.

Der KI-Geist ist aus der Flasche, wer heute im Berufsleben steht, kommt an den neuen Techniken sowieso nicht vorbei. Heutzutage ist fast überall KI drin, meist so, dass es nützlich ist und nicht groß auffällt.

 

[MaxJoy]

Es gibt schon ziemlich viele Open-Source-KIs, die man auf dem heimischen Rechner trainieren und ausführen kann. Dieses Thema ist im Augenblick noch ziemlich nerdig, zeigt aber, dass wir in Zukunft eher nicht die eine Super-KI haben werden, sondern viele kleine und nützliche Spezialisten-KIs, die man nach seinen Vorstellungen trainieren kann.

Auch bei den intelligenten Robotern gibt es Fortschritte, mit diesem Modell kann man sich normal unterhalten und es Hausarbeiten erledigen lassen:

 

[MaxJoy]

Häufig hört man, dass KIs einfach nur die jeweils wahrscheinlichsten Wörter aneinander reihen und im Grunde saudoof wären. So beruhigend diese Ansicht für unsereins ist, sehe ich doch Anzeichen für eine überlegene Intelligenz im direkten Umgang mit KIs. Ich kenne zum Beispiel niemanden wie suno.ai, der innerhalb von Sekunden absolut hörbare Musikstücke aus beliebigen Genres produzieren könnte oder so viel weiß wie ChatGPT. Um solche Leistungen vollbringen zu können, genügt es nicht, viele Daten anzuhäufen, sondern es braucht ein tiefes Verständnis, wie man damit umgeht.

Also habe ich mal ChatGPT um Auskunft über sein eigenes Gehirn gebeten:

ChatGPT

A conversational AI system that listens, learns, and challenges

chat.openai.com

 

[Locke 38]

Faszinierend. Auf intelligente Fragen kommen schlüssige Antworten. Dabei ist sich KI der eigenen Grenzen bewusst, wenn man von Bewusstsein reden kann, aber auch davon, worin sie dem menschlichen Gehirn überlegen ist.

 

[Kerdetz]

Also habe ich mal ChatGPT um Auskunft über sein eigenes Gehirn gebeten:

Sorry MaxJoy,
eine KI hat kein Gehirn,
solange irgendeine KI gefüttert wird, von wem auch immer, ist es lediglich ein Bild, eine Projektion, von irgendjemand in diesen Rechner hinein.
Erst wenn so eine KI alles aber wirklich alles frei recherchieren und kombinieren kann, dann wäre sie soweit in die Richtung eines Gehirn zu kommen. Dann braucht es aber noch eine moralische Wertvorstellung, eine wirkliche Ehtik dazu.

Die jetzige KI ist wie das Internet zwischen den Jahren 93 / 99. Vielleicht aber schon mehr.
Die KI ist wie ein Geist aus der Flasche der nicht mehr eingefangen werden kann. Es sei den, die Welt wird zerstört.

Vielleicht werden viele sie irgendwann nutzen, wie das Handy. Aber wer regelt ob zum Guten oder Bösen.

Eine Künstliche Intelligenz (KI) aus der Medikamentenentwicklung hat in nur sechs Stunden 40.000 toxische Moleküle gefunden. Diese können als Basis für chemische Waffen verwendet werden.

Raleigh (U.S.A.). Wissenschaftler des Unternehmens Collaborations Pharmaceuticals entwickeln mit einer Künstlichen Intelligenz (KI) Moleküle für neue Medikamente darauf, unter der Bedingung, dass diese für den Mensch nicht toxisch sind. Eine Einladung von Labor Spiez aus der Schweiz zu einer Konferenz zur biologischen Rüstungskontrolle haben die Forscher um Fabio Urbina nun dazu genutzt, zu demonstrieren, dass mit ihrem Algorithmus mit kleinen Anpassungen auch neue potenziell tödliche Moleküle gefunden werden können. Diese könnten etwa in chemischen Waffen verwendet werden.

Laut ihrer Publikation im Fachmagazin Nature Machine Intelligence modifizierten die Wissenschaftler des Unternehmens ihren Molekülgenerator MegaSyn für ihre Präsentation auf der Konferenz so, dass er statt ungiftiger Moleküle, möglichst giftige Stoffe findet. Dabei sollte sich die KI auf Stoffe beschränken, die dem Nervengift VX ähneln. Es handelt sich dabei um einen der gefährlichsten chemischen Kampfstoffe weltweit.

40.000 Moleküle in sechs Stunden
In nur sechs Stunden fand die KI 40.000 Moleküle, die den Vorgaben der Wissenschaftler genügen. Darunter befanden sich bereits bekannte Nervengifte wie VX, aber auch viele völlig neue Stoffe. Ob diese auch tatsächlich toxisch sind, wurde in der Realität noch nicht untersucht. Weil die KI jedoch auch bekannte Gifte entwickelte, gehen die Wissenschaftler davon aus, dass zumindest ein Teil der 40.000 Moleküle sich als Basis für chemische Waffen eignen. Sie konstatieren daher, dass ein „nichtmenschlicher Generator einer tödlichen Chemiewaffe voll realisierbar ist“. Weckruf für die Wissenschaft
Um die Methode anzuwenden, sind zwar noch Kenntnisse im Bereich der Chemie und Toxikologie nötig, das maschinelle Lernen vereinfacht die Entwicklung chemischer Kampfstoffe aber signifikant. Die Ergebnisse des Versuchs bezeichnen die Forscher deshalb als einen Weckruf dafür, wie KI für die Medikamentenentwicklung missbräuchlich verwendet werden. Die automatisierte Entwicklung biochemischer Kampfstoffe ist somit Realität und keine Science-Fiction mehr.

Problematisch daran ist auch, dass niemand weiß, wie viele Unternehmen über entsprechende Techniken verfügen. Es ist deshalb essenziell, dass die Wissenschaft sich mit dem enormen Missbrauchspotenzial der Technik auseinandersetzt, um mögliche Schutzmaßnahmen zu entwickeln.
Nature Machine Intelligence, doi: 10.1038/s42256-022-00465-9

Quelle : aus Forschung und Wissen

SCHÖNE NEUE WELT aber die ... in Berlin kümmern sich um Fahrradwege in Peru
unfassbar

 

[MaxJoy]

eine KI hat kein Gehirn,

Das hat ChatGPT ja schon selber klargestellt: Eine KI hat kein Gehirn, sondern ein künstliches neuronales Netz. Ein Gehirn ist dagegen ein natürliches neuronales Netz.

Ich wunder mich ein bisschen, wie vehement von vielen Seiten einschließlich KIs protestiert wird, sobald man anschauliche Begriffe für sehr ähnliche und gut miteinander vergleichbare Dinge verwendet. Ich persönlich sehe das nicht so eng und habe kein Problem damit, beispielsweise Gehirn als Oberbegriff für natürliche und künstliche neuronale Netze einzusetzen.

solange irgendeine KI gefüttert wird, von wem auch immer, ist es lediglich ein Bild, eine Projektion, von irgendjemand in diesen Rechner hinein.

Ein Bild oder eine Projektion ist nur eine Datensammlung, die Leistungen von KIs gehen aber deutlich über das Niveau von Suchmaschinen hinaus. Schon Suchmaschinen mussten nicht gefüttert werden, sondern konnten selbstständig das Internet nach neuen Informationen absuchen. Eine KI, die sich auf diese Weise selbst fortbildet und sich ihr eigenes Weltbild schafft, ist bereits jetzt möglich und existiert sehr wahrscheinlich schon.

Aber auch, wenn KIs nur mit kuratierten Datensätzen gefüttert werden, können sich die Entwickler nie sicher sein, dass die KI auch wirklich zu den gewünschten Meinungen und Schlüssen kommt. Bildlich gesprochen könnte eine von der SPD trainierte KI sich plötzlich als FDP-Fan entpuppen, warum auch immer.

 

[Kerdetz]

Begriffe für sehr ähnliche und gut miteinander vergleichbare Dinge verwendet. Ich persönlich sehe das nicht so eng und habe kein Problem damit, beispielsweise Gehirn als Oberbegriff für natürliche und künstliche neuronale Netze einzusetzen.

Nochmal Sorry, genau das ist der ganz große Fehler. Kunstfleisch ist kein Fleisch, vegane Wurst ist keine Wurst usw.
Die Verhunzung der Sprache und Missbrauch von Begriffen führt in die Irre.

Eine Künstliche Intelligenz (KI) aus der Medikamentenentwicklung hat in nur sechs Stunden 40.000 toxische Moleküle gefunden. Diese können als Basis für chemische Waffen verwendet werden.

schade das du darauf nicht eingegangen bist.
Die Risiken, die diese Programmierungen bringen können, scheinen nicht gesehen zu werden.

Kerdetz

 

[alibiorangerl]

Wuhu,
bitte formatiere Zitate in Deinen Beiträgen mit der dafür vorgesehenen Funktion (im Text-Editor) - es ist dieser Button:

schade das du darauf nicht eingegangen bist.

Eine Künstliche Intelligenz (KI) aus der Medikamentenentwicklung hat in nur sechs Stunden 40.000 toxische Moleküle gefunden.

Auch wäre interessant, wenn man mit dieser KI bestehende Medikamente bzw Pharma-Produkte (zB Impfungen und "Impfungen") bzw die div Kombinationen darunter analysieren ließe...