Andy
Tagträumer
Teammitglied
- Registriert
- Mai 2003
- Beiträge
- 7.832
- 20. Juni 2024
- #1
OpenAIs ehemaliger Chef-Wissenschaftler Ilya Sutskever hat ein Startup gegründet, das sich explizit mit Sicherheit bei der Entwicklung von KI-Systemen beschäftigt. Mit der Ausrichtung grenzt sich das neue Unternehmen von OpenAIs derzeitigem Kurs ab.
Zur News: Ex-OpenAI-Chefwissenschaftler: Ilya Sutskever gründet AI-Startup für sichere Superintelligenz
Syrato
Rear Admiral
- Registriert
- Juni 2012
- Beiträge
- 5.357
- 20. Juni 2024
- #2
Hört sich alles gut und durchdacht an, aber am Ende gehts nur ums liebe Geld.
Chris007
Lieutenant
- Registriert
- März 2012
- Beiträge
- 1.018
- 20. Juni 2024
- #3
dann wäre er ja bei openai geblieben.. schon mal ein interview mit sutskever gesehen? oder allgemein jemanden der gründer von openai, anthropic oder google deepmind?
Syrato
Rear Admiral
- Registriert
- Juni 2012
- Beiträge
- 5.357
- 20. Juni 2024
- #4
Gesehe und war auch mal davon überzeugt, aber die Welt lehrt mich immer wieder etwas anderes.
DFFVB
Commodore
- Registriert
- Dez. 2015
- Beiträge
- 5.086
- 20. Juni 2024
- #5
Dann wünsch ich ihm viel Erfolg, ist schon ein Warnschuss dass er gegangen ist, olle Sam Altmann sieht nur noch die Dollarzeichen...
X
xerex.exe
Lieutenant
- Registriert
- März 2012
- Beiträge
- 626
- 20. Juni 2024
- #6
Syrato schrieb:
Hört sich alles gut und durchdacht an,
Wie kommst du zu dem Schluss?
Eine sichere KI sollte Grundvoraussetzung sein.
Und ich sehe auch nirgendwo, dass etwas durchdacht wurde. Das einzige sind haltlose Behauptungen, nirgendwo ist ein Plan dafür, eine Roadmap oder sonst etwas.
Ich sehe das hier eher als Scam an um schnell noch Geld zu bekommen, bevor man in der Bedeutungslosigkeit versinkt, weil er noch mehr bei OpenAI ist.
DFFVB
Commodore
- Registriert
- Dez. 2015
- Beiträge
- 5.086
- 20. Juni 2024
- #7
@xerex.exe Ruf ihn doch mal und frag nach der Roadmap, und danach kannst ja mal Cola nach dem Rezept fragen....
Syrato
Rear Admiral
- Registriert
- Juni 2012
- Beiträge
- 5.357
- 20. Juni 2024
- #8
@xerex.exe und ich werde als pessimistisch bezeichnet 😁, woran soll man es sonst festmachen?
FrAGgi
Commodore
- Registriert
- März 2005
- Beiträge
- 4.883
- 20. Juni 2024
- #9
Naja, ein paar gut klingende Phrasen in den Raum gestellt, einen One-Pager im Stile eines Word-Dokuments als Webseite veröffentlicht und das wars.
Überzeugt jetzt nicht auf Anhieb und lässt auch keinerlei Tendenz in irgendeine Richtung erkennen.
habla2k
Rear Admiral
- Registriert
- Sep. 2009
- Beiträge
- 5.780
- 20. Juni 2024
- #10
Aus künstlicher Intelligenz wird jetzt schon Superintelligenz?
Ich weiß nicht, meiner Meinung nach dürfte die Blase gern mal platzen. Der eingeschlagene Weg des Profits mit KI und der Stand der Gesellschaft lässt mich nicht erkennen, dass wir "bereit" für das Thema sind.
DonDonat
Commodore
- Registriert
- Apr. 2013
- Beiträge
- 4.525
- 20. Juni 2024
- #11
xerex.exe schrieb:
Eine sichere KI sollte Grundvoraussetzung sein.
Sollte. Ja definitiv. Frag aber mal bei OpenAI & Co. nach wie deren Safety Board sowie Maßnahmen aussehen 
xerex.exe schrieb:
Und ich sehe auch nirgendwo, dass etwas durchdacht wurde. Das einzige sind haltlose Behauptungen, nirgendwo ist ein Plan dafür, eine Roadmap oder sonst etwas.
Also klassisches "KI Entwickeln", genau wie bei OpenAi: wir machen mal was und schauen was passiert.
xerex.exe schrieb:
Ich sehe das hier eher als Scam an um schnell noch Geld zu bekommen, bevor man in der Bedeutungslosigkeit versinkt, weil er noch mehr bei OpenAI ist.
"Scam" ist etwas hart oder? Das Ding sieht und liest sich wie jedes andere "KI" Start-Up nur setzt man hier den Marketing Fokus auf "Sicherheit", was auch immer das heißen soll bei den aktuellen sehr generellen Modellen.
Solang sie den Ansatz nicht komplett ändern würden, wird "Sicherheit" hier auch mehr ein Label sein als alles andere. Wobei selbst wenn sie nur ein klein wenig mehr auf "Sicherheit" setzen und nur etwas davon umsetzen, dann sind sie direkt besser als OpenAI & Co.
Brauchen tut sowas hier am Ende keiner aber dank Hype werden sie sicher XX- XXX Mio. einnehmen weil "KI and to the moon!!11!" und in wenigen Jahren wars das weil man wie alle anderen "KI" Firmen kein Geschäftsmodell hat 
Chris007
Lieutenant
- Registriert
- März 2012
- Beiträge
- 1.018
- 20. Juni 2024
- #12
DFFVB schrieb:
Dann wünsch ich ihm viel Erfolg, ist schon ein Warnschuss dass er gegangen ist, olle Sam Altmann sieht nur noch die Dollarzeichen...
wenn du Sam Altman jetzt schon komisch findest, dann warte mal bis du von den Vorwürfen der Schwester hörst
Kuristina
Captain
- Registriert
- Juli 2022
- Beiträge
- 3.149
- 20. Juni 2024
- #13
DonDonat schrieb:
Frag aber mal bei OpenAI & Co. nach wie deren Safety Board sowie Maßnahmen aussehen
Steht ja im Text.
OpenAI zuletzt auch in der Kritik .. zu große Nähe zwischen OpenAI und dem amerikanischen Geheimdienstapparat .. NSA-Direktor im Verwaltungsrat
Das soll die Sicherheit stärken. ^^
Muntermacher
Lieutenant
- Registriert
- Sep. 2022
- Beiträge
- 947
- 20. Juni 2024
- #14
Also man hat die Wahl jemanden die Daumen zu drücken, der entweder auf Sicherheitsaspekt keinen Wert legt (OpenAI und Co) und jemand, der behauptet es zu tun. Nun die Wahl ist doch einfach, eine Chance ist besser als keine Chance.
Noch krasser finde ich übrigens die Nebenbei Nachricht des Ex NSA Direktor. Das hat imho einen eigenen Artikel verdient.
whynot?
Lt. Junior Grade
- Registriert
- Dez. 2005
- Beiträge
- 356
- 20. Juni 2024
- #15
Ich hab mich nach den letzten Monaten, und diversen Handlungen und Aussagen von Altman festgelegt: Ilya ist nicht der Bad Guy der Story, Sam Altman gibt mir Patrick Bateman Vibes
DFFVB
Commodore
- Registriert
- Dez. 2015
- Beiträge
- 5.086
- 20. Juni 2024
- #16
@Chris007 Diese sind mir bekannt und lassen mich auch mit einiger Irritation zurück. Allerdings gilt es hier zu differenzieren: a) jemand ist sexuell ist gestört: ich würde hoffen, dass seine restlichen Fähigkeiten rationale Entscheidungne zu treffen hiervon nicht beeinträchtigt werden b) der Umgang damit: Es gibt hier für mich zwei Möglichkeiten: 1. Die MEdien sind gleichgeschaltet keiner traut sich (aluhelm absetz) 2. Es ist Teil der ekelhaften Schmutzkampagnen die in den USA deutlich verbreiteter sind als bei uns, deshalb greift es keiner auf... fehlen mir belastbare Infos dazu
DonDonat
Commodore
- Registriert
- Apr. 2013
- Beiträge
- 4.525
- 20. Juni 2024
- #17
Kuristina schrieb:
Steht ja im Text.
Steht es nicht.
Kuristina schrieb:
Das soll die Sicherheit stärken. ^^
Die Sichtweise halte ich für etwas weit hergeholt, was so auch im Artikel steht:
Befürchtet wird eine zu große Nähe zwischen OpenAI und dem amerikanischen Geheimdienstapparat.
Diese Sichtweise ergibt deutlich mehr Sinn, genau wie dass sie sich NSA Management Wissen zur Überwachung holen wollen. "Sicherheit" im Sinne von "ist es sicher zu nutzen" sowie "ist es sicher für die Nutzer" spielt da sicher keine, maximal eine minimal untergeordnete Rolle... Sonst hätte man die vorher existierenden Mechanismen nicht ohne Ersatz über Board geworfen.
Kuristina
Captain
- Registriert
- Juli 2022
- Beiträge
- 3.149
- 20. Juni 2024
- #18
DonDonat schrieb:
Die Sichtweise halte ich für etwas weit hergeholt
Ich glaube es ja auch nicht, deswegen meine ^^ am Ende. Nächstes Mal mache ich ein 🙃
Diese Sichtweise ergibt deutlich mehr Sinn
Kann schon sein. Das ist halt die Sichtweise der Kritiker. OpenAI hat den Zugang ja aus ihrer Sicht begründet.
Zuletzt bearbeitet:
flappes
Admiral
- Registriert
- Jan. 2006
- Beiträge
- 7.906
- 20. Juni 2024
- #19
Endlich, dann kann die Superintelligenz ja bald meinen Job machen und für mich Geld verdienen ;-)
M@tze
Vice Admiral
- Registriert
- Dez. 2008
- Beiträge
- 6.646
- 20. Juni 2024
- #20
@Andy
Dass sowohl Sutskever als auch Leike OpenAI das Unternehmen verlassen haben, führte innerhalb von OpenAI zu Unruhe, berichtet die New York Times.
Das passt da meiner Meinung nach irgendwie nicht hin?!
Du musst dich einloggen oder registrieren, um hier zu antworten.
