OpenAI מודיע אויף מאי 31, זיין השתדלות צו פאַרבעסערן די מאַטאַמאַטיקאַל פּראָבלעם סאַלווינג קייפּאַבילאַטיז פון ChatGPT, מיט אַ ציל צו רעדוצירן קאַסעס פון קינסטלעך סייכל (AI) כאַלוסאַניישאַנז. OpenAI אונטערגעשטראכן מיטיגייטינג כאַלוסאַניישאַנז ווי אַ קריטיש שריט צו אַנטוויקלען אַליינד אַגי.
אין מאַרץ, די הקדמה פון די לעצטע ווערסיע פון ChatGPT, GPT-4, פּראַפּעלד קינסטלעך סייכל אין די מיינסטרים. אָבער, דזשענעראַטיוו אַי טשאַטבאָץ האָבן לאַנג גראַפּאַלד מיט פאַקטואַל אַקיעראַסי, טייל מאָל דזשענערייטינג פאַלש אינפֿאָרמאַציע, קאַמאַנלי ריפערד צו ווי "האַלוסאַניישאַנז." די השתדלות צו רעדוצירן די אַי כאַלוסאַניישאַנז זענען מודיע דורך אַ פּאָסטן אויף זייער וועבזייטל.
AI כאַלוסאַניישאַנז אָפּשיקן צו קאַסעס ווו קינסטלעך סייכל סיסטעמען דזשענערייט אַוטפּוץ וואָס זענען פאקטיש פאַלש, מיסלידינג אָדער ניט געשטיצט דורך פאַקטיש-וועלט דאַטן. די כאַלוסאַניישאַנז קענען באַשייַמפּערלעך אין פאַרשידן פארמען, אַזאַ ווי דזשענערייטינג פאַלש אינפֿאָרמאַציע, מאַכן אַרויף ניט-עגזיסטאַנט געשעענישן אָדער מענטשן אָדער צושטעלן ומפּינקטלעך דעטאַילס וועגן זיכער טעמעס.
OpenAI געפירט פאָרשונג צו ונטערזוכן די יפעקטיוונאַס פון צוויי טייפּס פון באַמערקונגען - "אַוטקאַם השגחה" און "פּראָסעס השגחה." רעזולטאַט השגחה ינוואַלווז באַמערקונגען באזירט אויף די לעצט רעזולטאַט, בשעת פּראָצעס השגחה גיט אַרייַנשרייַב פֿאַר יעדער שריט אין אַ קייט פון געדאַנק. OpenAI עוואַלואַטעד די מאָדעלס ניצן מאַט פּראָבלעמס, דזשענערייטינג קייפל סאַלושאַנז און סאַלעקטינג די העכסטן-ראַנגקט לייזונג לויט צו יעדער באַמערקונגען מאָדעל.
נאָך אַ גרונטיק אַנאַליסיס, די פאָרשונג מאַנשאַפֿט געפֿונען אַז פּראַסעסאַז השגחה האט אַ העכער פאָרשטעלונג ווייַל עס ינקעראַדזשד די מאָדעל צו אַדכיר צו אַ מענטש-באוויליקט פּראָצעס. אין קאַנטראַסט, אַוטקאַם השגחה פּרוווד מער טשאַלאַנדזשינג צו קאָנטראָלירן קאַנסיסטאַנטלי.
OpenAI אנערקענט אַז די ימפּלאַקיישאַנז פון פּראָצעס השגחה פאַרברייטערן זיך ווייַטער פון מאטעמאטיק, און ווייַטער ויספאָרשונג איז נייטיק צו פֿאַרשטיין די יפעקץ אין פאַרשידענע דאָומיינז. עס אויסגעדריקט די מעגלעכקייט אַז אויב די באמערקט אַוטקאַמז האַלטן אמת אין ברייטערער קאַנטעקסץ, פּראָצעס השגחה קען פאָרשלאָגן אַ גינציק קאָמבינאַציע פון פאָרשטעלונג און אַליינמאַנט קאַמפּערד מיט רעזולטאַט השגחה. צו פאַסילאַטייט פאָרשונג, די פירמע באפרייט די גאַנץ דאַטאַסעט פון פּראָצעס השגחה, ינווייטינג עקספּלעריישאַן און לערנען אין דעם געגנט.
פֿאַרבונדענע: אַי פאָדערונג בעקיצער קאַטאַפּאַלט Nvidia אין $ 1T קלוב
כאָטש OpenAI האט נישט צושטעלן יקספּליסאַט ינסטאַנסיז וואָס פּראַמפּטיד זייער ויספאָרשונג אין כאַלוסאַניישאַנז, צוויי פריש געשעענישן יגזאַמפּאַלד דעם פּראָבלעם אין פאַקטיש-לעבן סינעריאָוז.
אין אַ פריש אינצידענט, אַדוואָקאַט Steven A. Schwartz אין די Mata v. Avianca Airlines פאַל יקנאַלידזשד צו פאַרלאָזנ זיך די טשאַטבאָט ווי אַ פאָרשונג מיטל. אָבער, די אינפֿאָרמאַציע צוגעשטעלט דורך ChatGPT איז געווען גאָר פאַבריקייטיד, כיילייטינג די אַרויסגעבן אין האַנט.
OpenAI's ChatGPT איז נישט דער איינציקער ביישפּיל פון קינסטלעך סייכל סיסטעמען וואָס טרעפן כאַלוסאַניישאַנז. מייקראָסאָפֿט אַי, בעשאַס אַ דעמאַנסטריישאַן פון זיין טשאַטבאָט טעכנאָלאָגיע אין מאַרץ, יגזאַמאַנד פאַרדינסט ריפּאָרץ און דזשענערייטאַד ומפּינקטלעך פיגיערז פֿאַר קאָמפּאַניעס ווי גאַפּ און לולולעמאָן.
זשורנאַל: 25K טריידערז געוועט אויף ChatGPT ס לאַגער פּיקס, אַי סאַקס ביי ביינדלעך ווארפט ער, און מער
מקור: https://cointelegraph.com/news/here-s-how-openai-plans-to-cleanse-chatgpt-from-false-information