דאַזאַנז פון קינסטלעך סייכל (AI) עקספּערץ, אַרייַנגערעכנט די סעאָס פון OpenAI, Google DeepMind און Anthropic, האָבן לעצטנס געחתמעט אַן אָפֿן דערקלערונג ארויס דורך די צענטער פֿאַר אַי סאַפעטי (CAIS).
מיר נאָר שטעלן אַ דערקלערונג:
"מיטאַגייטינג די ריזיקירן פון יקסטינגשאַן פון אַי זאָל זיין אַ גלאבאלע בילכערקייַט צוזאמען אנדערע סאָסיעטאַל ריסקס אַזאַ ווי פּאַנדעמיקס און יאָדער מלחמה."
סיגנאַטאָריעס אַרייַננעמען Hinton, Bengio, Altman, Hassabis, Song, עטק. https://t.co/N9f6hs4bpa
(קסנומקס / קסנומקס)
- Dan Hendrycks (@DanHendrycks) מייַ קסנומקס, קסנומקס
די דערקלערונג כּולל אַ איין זאַץ:
"מיטאַגייטינג די ריזיקירן פון יקסטינגשאַן פון אַי זאָל זיין אַ גלאבאלע בילכערקייַט צוזאמען אנדערע סאָסיעטאַל ריסקס אַזאַ ווי פּאַנדעמיקס און יאָדער מלחמה."
צווישן די אונטערשריפטן פון דעם דאָקומענט איז אַ אמתער “ווער איז ווער” פון איי-איי-לומינאַרן, אריינגערעכנט דער “גאָטפאַדער” פון איי-איי, געפרי הינטאָן; אוניווערסיטעט פון קאַליפאָרניאַ, בערקלי ס סטואַרט רוססעלל; און מאַססאַטשוסעטץ אינסטיטוט פון טעכנאָלאָגיע לעקס פרידמאַן. מוזיקער גרימעס איז אויך אַ סיגנאַטאָרי, ליסטעד אונטער די קאַטעגאָריע "אנדערע נאָוטאַבאַל פיגיערז".
פֿאַרבונדענע: קלעזמער גרימעס גרייט צו "שפּאַלטן 50% רויאַלטיז" מיט אַי-דזשענערייטאַד מוזיק
כאָטש די דערקלערונג קען זיין אומשולדיק אויף די ייבערפלאַך, די אַנדערלייינג אָנזאָג איז אַ ביסל קאָנטראָווערסיאַל אין די אַי קהל.
א פּאָנעם גראָוינג נומער פון עקספּערץ גלויבן אַז קראַנט טעקנאַלאַדזשיז קען אָדער וועט ינעוואַטאַבלי פירן צו די ימערדזשאַנס אָדער אַנטוויקלונג פון אַן אַי סיסטעם וואָס איז ביכולת צו שטעלן אַן עקסיסטענטשאַל סאַקאָנע צו די מענטש מינים.
זייער מיינונג, אָבער, איז קעגן דורך אַ קאָנטינגענט פון עקספּערץ מיט דיאַמעטריקאַל אַנטקעגנשטעלנ מיינונגען. מעטאַ הויפּט אַי געלערנטער יאַן לעקון, פֿאַר בייַשפּיל, האט באמערקט ביי פילע מאל אַז ער טוט נישט דאַווקע גלויבן אַז אַי וועט ווערן אַנקאַנטראָולאַבאַל.
יבער-מענטש אַי איז ינ ערגעצ ניט דער שפּיץ פון דער רשימה פון עקסיסטענטשאַל ריסקס.
אין גרויס טייל ווייַל עס טוט נישט עקסיסטירן נאָך.ביז מיר האָבן אַ יקערדיק פּלאַן פֿאַר אפילו הונט-מדרגה אַי (לאָזן אַליין מענטש מדרגה), דיסקאַסט ווי צו מאַכן עס זיכער איז צו פרי. https://t.co/ClkZxfofV9
- יאַן לעקון (@ylecun) מייַ קסנומקס, קסנומקס
פֿאַר אים און אנדערע וואָס זענען נישט מסכים מיט די "יקסטינקטיאָן" מליצות, אַזאַ ווי Andrew Ng, מיט-גרינדער פון Google Brain און געוועזענער הויפּט געלערנטער אין באַידו, אַי איז נישט די פּראָבלעם, דאָס איז דער ענטפער.
אויף די אנדערע זייַט פון די אַרגומענט, עקספּערץ אַזאַ ווי Hinton און Conjecture סעאָ Connor Leahy גלויבן אַז מענטש-מדרגה אַי איז באַשערט און, ווי אַזאַ, די צייט צו האַנדלען איז איצט.
קעפ פון אַלע הויפּט אַי לאַבאָראַטאָריעס האָבן געחתמעט דעם בריוו בפירוש אנערקענט די ריזיקירן פון יקסטינגשאַן פון AGI.
אַן אומגלויבלעכער שריט פאָרויס, מאַזל - טאָוו צו דן פֿאַר זיין גלייבן אַרבעט צו שטעלן דעם צוזאַמען און אַ דאַנק צו יעדער חתן פֿאַר טאן זייער טייל פֿאַר אַ בעסער צוקונפֿט! https://t.co/KDkqWvdJcH
— Connor Leahy (@NPCollapse) מייַ קסנומקס, קסנומקס
עס איז אָבער נישט קלאָר וואָס אַקשאַנז די אונטערשריפט פון די דערקלערונג רופן פֿאַר. די סעאָס און / אָדער קעפ פון אַי פֿאַר כּמעט יעדער הויפּט אַי פירמע, ווי געזונט ווי באַרימט סייאַנטיס פון אַריבער אַקאַדעמיע, זענען צווישן די וואָס האָבן געחתמעט, וואָס מאכט עס קלאָר ווי דער טאָג אַז די כוונה איז נישט צו האַלטן די אַנטוויקלונג פון די פּאַטענטשאַלי געפערלעך סיסטעמען.
פריער דעם חודש, OpenAI סעאָ סאַם אַלטמאַן, איינער פון די סיגנאַטאָריז פון די אויבן-דערמאנט סטייטמאַנץ, געמאכט זיין ערשטער אויסזען פֿאַר קאנגרעס בעשאַס אַ סענאַט געהער צו דיסקוטירן אַי רעגולירן. זיין עדות געמאכט כעדליינז נאָך ער פארבראכט די מערהייט פון עס צו דרינגלעך געזעצגעבער צו רעגולירן זיין אינדוסטריע.
Altman's Worldcoin, אַ פּרויעקט וואָס קאַמביינז קריפּטאָקוררענסי און דערווייַז-פון-פּערסאָנאַליד, האט אויך לעצטנס געמאכט די מידיאַ ראָונדס נאָך רייזינג $ 115 מיליאָן אין סעריע C פאַנדינג, ברענגען זיין גאַנץ פאַנדינג נאָך דריי ראָונדס צו $ 240 מיליאָן.
מקור: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war