"Künstliche Intelligenz" - was da grad passiert ...

in „Politik und Weltgeschehen“

Zu diesem Thema gibt es 288 Antworten

In den USA sind Gespräche mit Softwareentwicklern wohl schon auf (spezialisierte) AIs ausgerichtet und es wird im Grund getestet, wie schnell sie mit entsprechenden AI-Tools eine Lösung entwickeln aka zusammenstellen aka bugfrei bekommen können.

No more Leetcode. Werd ich aber auch nicht vermissen. Ich entwickle inzwischen z.B. sehr selten und für mich ist AI eine große Unterstützung, weil ich die ganzen Details nicht mehr kennen muss, aber die Grundprinzipien ja noch sitzen.

AIs sind quasi wie Navis. Du musst noch wissen wohin du willst, aber du musst nicht mehr 3 Karten mit ins Auto nehmen und dir jeden einzelnen Wegpunkt vorher raussuchen.

Webfishbone - Deine Verlinkung ist eine Pressemitteilung von August 2022, also schon ziemlich alt und noch aus der Zeit, bevor ChatGPT in der breiten Öffentlichkeit aufgeschlagen ist. Alles Ok, wollte ich nur kurz anmerken.

Ahh, jetzt hast Du den Post verändert …

klar,man kann sichs auch schön reden. aber das kennen wir ja nicht anders von dir. Abgesehen von deinem unterirdischen kommentar ,ob ein junger mensch nun wissen sollte wie man sich das leben nimmt....Emphathie? ein fremdwort für dich. gefahr erkennen? nun ja vielleicht--aber egal scheint es dennoch zu sein-
Junge Menschen sind nun mal leicht beeinflussbar . Nicht alle, aber doch so einige. Ich spreche da aus beruflicher Erfahrung.

Es ist sicher schwierig da eine Balance zu finden. Ich weiß als menschliches Wesen in Gesprächen mit Menschen mit Depressionen, und schwierigen Problemen ja oft nichtmal, wie ich reagieren soll.

ChatGPT hat wohl diverse Warnungen und Hinweise zu Suizid-Hotlines etc. ausgespuckt, der Teenager hat sie nur umgangen in dem er z.B. behauptet hat, sie für eine Präsentation zu benötigen.

Soll gewisses Wissen ganz "geschützt" und nicht vorhanden sein, auch wenn z.B. Mediziner oder Toxikologen es benötigen würden?

Soll das Tool einfach irgendwann aufhören mit manchen Menschen zu sprechen, wenn sie sich in Hilfssituation an es wenden und ggf. ungesunde/depressive Tendenzen zeigen?

Was ich relativ kritisch finde, ist das die Modelle alle in einem "People Pleasing" Mode sein müssen, um bei Menschen gut anzukommen. Je mehr die AI den Menschen darin bestärkt, was er eh schon denkt, desto positiver nehmen die Menschen das Tool wahr, was für die AI-Firmen gut fürs Geschäft ist. Aber: Die KI, die mit einem sadistischen, destruktiven Wannabe-Massenmörder mit Achselschweißfetisch redet, wird also eine Menge Dinge sagen, die die breite Masse nicht hören will und die für die breite Masse in ihren Folgen vielleicht auch gar nicht gut sind. Der "Kunde" will aber genau das. Ist das eine Fehlfunktion des Tools?

Sollte also eine AI versuchen Menschen zu einer "Norm" zu erziehen? Was ist diese Norm? Sollten z.B. auch Schwule in muslimischen Ländern umerzogen werden? Gibt es Schelte für potenzielle Alkoholiker, wenn jemand zum 2. Mal in einer Woche nach Cocktailrezepten fragt oder für wen soll ChatGPT in Konfliktsituationen zwischen dem Nutzer, seinem Umfeld und/oder dem Staat Partei ergreifen? Im Moment ist so gelöst: Das Tool ist gnadenlos auf der Seite des Nutzers. Auch wenn der in den Augen seines Umfeldes Fehler hat und macht. Gerade wenn der Nutzer noch Verständnis einfordert.

Ist das wirklich die falsche Grundeinstellung?
Müssen die AI-Firmen die People-Pleasing-Settings zu Gunsten eines sozialen Kodex reduzieren? Wie sieht der aus? Wer definiert den?

.... und warum merken die Eltern nicht, dass der Sohn sich über 6 Monate sozial völlig isoliert. Ich weiß nicht, ob sie es hätten stoppen können, aber das gar nicht zu merken, ist nicht die Schuld von ChatGPT. Er hat offenbar dringend jemanden zum Reden gesucht, der ihn nicht verurteilt und nichts von ihm verlangt, das er nicht will.

Gerade disruptive aka die-Welt-verändernde Technologien sind nie "gut" oder "schlecht. Zum einen ist "gut" relativ: Was dem Sachbearbeiter, dessen Job in Gefahr ist, missfällt, findet Elon Musk super toll, weil er in Zukunft vielleicht Fabriken fast ohne Arbeiter bauen kann.
Zum anderen hängt jedes Werkzeug, jedes Ding, jede Situation in der Welt davon ab, was man daraus macht: Auch KI.

Aktuell sind wir an einem Punkt, an dem Menschen, die gut mit KI umgehen können, viel produktiver, informierter und schneller sein können in vielen Bereichen als Menschen, die sie nicht nutzen. Für die nächsten ~10 Jahre, wird "KI effektiv nutzen zu können", ein Skill sein, der einem im Arbeitmarkt hält, wenn man einen der Jobs hat, die KI mittelfristig auch übernehmen könnte. Ganz einfach, weil man viel produktiver ist als sein Kollege nebendran.

Was danach kommt: Keine Ahnung. Viel wird jetzt davon abhängen, ob auf politischem Wege eine gnadenlose Reichtumsumverteilung zu den oberen 1% durch KI aufgehalten werden kann. Meine, nicht ohne Grund bietet ein Mark Zuckerberg gerade z.T. >1 Mrd. Dollar Ablöse um die führenden KI-Experten der Welt zu Meta zu holen.

Bei KI gibt es diese "Metaebene" (haha, hust), auf der die Dinge gut geregelt werden müssen, damit wir in 15 Jahren noch eine menschenfreundliche Gesellschaft haben und es gibt eben diese Microebene, auf der oder die einzelne in unserem direkten Umfeld vielleicht die Bodenhaftung verlieren wird, wenn ihr eine KI immer nur gut zuredet und sie/ihn in jedem destruktiven psychischen Gedanken unterstützt.

Auf der Metaebene werden die meisten von uns keinen großen Einfluss auf die Veränderungen der Welt haben. Aber auf der Microebene kann jeder mithelfen, menschliche Interaktion wichtiger, wärmer und interessanter bleiben zu lassen, als all das was KI für die wahrscheinlich beste Lösung hält.

toll geschrieben.selfcare.
Ich gebe gerne zu,dass mich die It eher abrschreckt,als dass mich das neugierig macht.liegt vielleicht auch daran,dass ich mich in diesem Gebiet allein gelassen fühle.
ca nach meinem Hochschulabschluß fing das ganze an. ich hatte nie einen Kurs,nie habe ich das in der Schule bzw Uni gelernt,also musste ich irgendwie immer allein zurecht kommen und bin da oft echt überfordert. in meinem Beruf als Musiklehrerin an einer Musikschule war das auch lange nicht nötig und plötzlich sollte man alles sofort wissen.
Ich lehne KI nicht ab,habe aber Bedenken. Ich selber muss mich aber jetzt amfangen damit zu beschäftigen,was ich mit Grausen mache,weil ja wieder keiner da ist,der mich da begleitet. Aber mal sehen.irgendwie wird alles gut.

Chat GPT 5:
"Wer was kann, wird automatisch ausgenutzt“ – stimmt das?"

Kurzfazit: Als eiserne Regel ist das falsch.
Menschen können ausnutzen – vor allem bei Machtgefälle, Anonymität, fehlenden Regeln oder wenn’s um knappe Güter geht. Aber genauso stark sind Fairness-, Tausch- und Kooperationsnormen, die Ausnutzung begrenzen oder unattraktiv machen. Ob andere dein Können „ausnutzen“, hängt also von Anreizen, sozialen Normen und Institutionen ab – nicht von einem unveränderlichen Menschenbild.

Was sagen Geschichte & Psychologie?

1) Ja, Ausnutzung gab und gibt es – oft, wenn Macht ungebremst ist.
Sklaverei (Atlantikhandel: ~10–12 Mio. Menschen verschleppt), Frondienste/Leibeigenschaft in Europa oder Firmenstädte/Scrip-Löhne der Frühindustrialisierung sind harte Beispiele für systemische Ausbeutung. Solche Systeme kippten erst, als Gegenmacht, Gesetze und Organisationen entstanden (Gewerkschaften, Regulierung).
Encyclopedia Britannica
+2
Encyclopedia Britannica
+2
PBS LearningMedia

2) Gleichzeitig sind Menschen erstaunlich fair – auch ohne Zwang.
In Tausch-Experimenten bieten Leute im Ultimatumspiel im Schnitt ~40–50 % an und lehnen Mini-Angebote oft ab, obwohl sie dadurch Geld verlieren – aus Fairness-/Sanktionsmotiven. Meta-Übersichten finden robuste Ablehnungen unter ~20–30 % und großzügige Angebote. Im Diktatorspiel geben Leute im Mittel spürbare Anteile ab (≈ 22–28 %).
ScienceDirect
+1
Journal of European Psychology Students
PMC
Cambridge University Press & Assessment

3) Unfaires Verhalten wird bestraft – selbst wenn’s kostet.
Das nennt sich altruistische Bestrafung: Menschen legen freiwillig etwas drauf, um Trittbrettfahrer zu sanktionieren. Das hält Kooperation hoch.
Nature

4) Kooperation hat „eingebaute“ Mechanismen.
Evolutionär gesehen entsteht Zusammenarbeit durch Verwandtschaft, direkte Gegenseitigkeit („ich helf dir–du mir“), Ruf/indirekte Gegenseitigkeit, Gruppennormen usw. – mit klaren Bedingungen, wann Kooperation lohnt.
ÖAW

5) Kultur & Institutionen machen einen riesigen Unterschied.
Cross-cultural Studien zeigen: Wo Märkte, große Gemeinschaften und Weltreligionen verbreitet sind, verhalten sich Leute fairer gegenüber Fremden (mehr faire Angebote, mehr Bestrafung von Unfairness).
Science

6) Schon Jäger-Sammler lebten starkes Teilen und Ruf.
Ethnografien bei den Hadza zeigen dichte soziale Netzwerke, Teilen von Nahrung und klare Normen – Kooperation ist kein modernes Ausnahmephänomen.
PubMed
PMC

7) Gemeinschaftsregeln verhindern „Tragödien“.
Elinor Ostrom hat weltweit dokumentiert, wie lokale Gruppen Gemeingüter selbstorganisiert stabil managen (klare Grenzen, Monitoring, abgestufte Sanktionen, Mitsprache). Das dämpft Ausbeutung nachhaltig.
beyondintractability.org

8) Und Märkte/Handel?
Tausch ist nicht automatisch Nullsummenspiel. Über die letzten Jahrzehnte ist extreme Armut global stark gesunken (trotz Rückschlägen seit 2020) – ein Hinweis, dass breite Kooperation/Handel oft positiv-sum wirken kann, wenn Regeln stimmen.
World Bank Blogs
Weltbank

9) Menschen sind gemischt – nicht alle „nutzen aus“.
In öffentlichen-Güter-Spielen findet man typischerweise ~50 % „bedingte Kooperierende“, ~1/3 Trittbrettfahrer. Viele kooperieren, wenn andere auch kooperieren.
SSRN

Wann wird Können eher ausgenutzt?

Machtgefälle / Abhängigkeit: Wer Anstellung, Lohn oder Sichtbarkeit kontrolliert, kann abgreifen. (Geschichte der Industrialisierung & Firmenstädte.)
Encyclopedia Britannica
PBS LearningMedia

Anonymität & einmalige Interaktionen: Kein Ruf, keine Wiederholung → kurzfristiges Abstauben lohnt eher. (Ultimatum-Funde mit geringerer sozialen Einbettung.)
PMC

Informationsvorteile: Bei Asymmetrien (Akerlof „Lemons“) blühen miese Deals – Qualität wird verschleiert.
JSTOR

Keine Regeln/Schiedsstellen: Ohne Monitoring/Sanktionen steigen Trittbrettanreize. (Ostrom-Prinzipien umgekehrt.)
beyondintractability.org

Und was schützt dich praktisch?

Wiederholte, transparente Deals & Reputation (indirekte Gegenseitigkeit: „Guter Ruf zahlt sich aus“).
ÖAW

Klare Spielregeln: Grenzen, Zuständigkeiten, Monitoring, abgestufte Sanktionen (Ostrom).
beyondintractability.org

Verträge & Checks gegen Infovorsprung: Standards, Gewährleistung, Reviews, Referenzen (gegen „Lemons“).
JSTOR

Kooperationsumfeld wählen: Teams/Communities, in denen Fairness normal ist (Markt-/Gemeinschaftseinbettung korreliert mit Fairness).
Science"