ווען עס איז געווען שטאַרק אין נומערן, עפּל האט געמאכט אַ סטראַטידזשיק מאַך אין די קאַמפּעטיטיוו קינסטלעך סייכל מאַרק דורך מאכן אַכט קליין אַי מאָדעלס בנימצא. קאַלעקטיוולי גערופן OpenELM, די סאָליד מכשירים זענען דיזיינד צו לויפן אויף דעוויסעס און אָפפלינע - גאנץ פֿאַר סמאַרטפאָנעס.
פֿאַרעפֿנטלעכט אויף די אָפֿן-מקור אַי קהל כאַגינג פּנים, די מאָדעלס זענען געפֿינט אין 270 מיליאָן, 450 מיליאָן, 1.1 ביליאָן און 3 ביליאָן פּאַראַמעטער ווערסיעס. יוזערז קענען אויך אראפקאפיע עפּל ס OpenELM אין אָדער פאַר-טריינד אָדער ינסטרוקטיאָן-טונד ווערסיעס.
די פאַר-טריינד מאָדעלס צושטעלן אַ באַזע אַטאַפּ וואָס ניצערס קענען פיין ניגן און אַנטוויקלען. די ינסטרוקטיאָנס-טונד מאָדעלס זענען שוין פּראָוגראַמד צו ריספּאַנד צו ינסטראַקשאַנז, מאכן זיי מער פּאַסיק פֿאַר שמועסן און ינטעראַקשאַנז מיט סוף ניצערס.
כאָטש עפּל האט נישט סאַגדזשעסטיד ספּעציפיש נוצן קאַסעס פֿאַר די מאָדעלס, זיי קען זיין געווענדט צו לויפן אַסיסטאַנץ וואָס קענען פּאַרס E- בריוו און טעקסטן, אָדער צושטעלן ינטעליגענט פֿירלייגן באזירט אויף די דאַטן. דאָס איז אַן צוגאַנג ענלעך צו איינער גענומען דורך Google, וואָס דיפּלויד זיין Gemini AI מאָדעל אויף זיין פּיקסעל סמאַרטפאָנע ליינאַפּ.
די מאָדעלס זענען טריינד אויף עפנטלעך בנימצא דאַטאַסעץ, און עפּל איז ייַנטיילונג ביידע די קאָד פֿאַר CoreNet (די ביבליאָטעק געניצט צו באַן OpenELM) און די "רעסאַפּיז" פֿאַר זיין מאָדעלס. אין אנדערע ווערטער, יוזערז קענען דורכקוקן ווי עפּל געבויט זיי.
די עפּל מעלדונג קומט באַלד נאָך מייקראָסאָפֿט מודיע Phi-3, אַ משפּחה פון קליין שפּראַך מאָדעלס וואָס קענען לויפן לאָוקאַלי. Phi-3 Mini, אַ 3.8 ביליאָן פּאַראַמעטער מאָדעל טריינד אויף 3.3 טריליאַן טאָקענס, איז נאָך טויגעוודיק פון האַנדלינג 128K טאָקענס פון קאָנטעקסט, מאכן עס פאַרגלייַכלעך צו GPT-4 און ביטינג לאַמאַ-3 און מיסטראַל גרויס אין טערמינען פון סימען קאַפּאַציטעט.
זייַענדיק אָפֿן מקור און לייטווייט, Phi-3 Mini קען פּאַטענטשאַלי פאַרבייַטן טראדיציאנעלן אַסיסטאַנץ ווי עפּל ס Siri אָדער Google ס געמיני פֿאַר עטלעכע טאַסקס, און מייקראָסאָפֿט האט שוין טעסטעד Phi-3 אויף אַ iPhone און געמאלדן באַפרידיקנדיק רעזולטאַטן און שנעל סימען דורות.
כאָטש עפּל האט נישט נאָך ינאַגרייטיד די נייַע אַי שפּראַך מאָדעל קייפּאַבילאַטיז אין זיין קאַנסומער דעוויסעס, די אַפּקאַמינג יאָס 18 דערהייַנטיקן איז רומערד צו אַרייַננעמען נייַע אַי פֿעיִקייטן וואָס נוצן פּראַסעסינג אויף די מיטל צו ענשור באַניצער פּריוואַטקייט.
עפּל ייַזנוואַרג האט אַ מייַלע אין היגע אַי נוצן, ווייַל עס קאַמביינז מיטל באַראַן מיט גפּו ווידעא באַראַן (אָדער VRAM). דעם מיטל אַז אַ מעק מיט 32 גיגאבייט פון באַראַן (אַ פּראָסט קאַנפיגיעריישאַן אין אַ פּיסי) קענען נוצן דעם באַראַן ווי GPU VRAM צו לויפן אַי מאָדעלס. אין פאַרגלייַך, Windows דעוויסעס זענען כאַמסטראַנג דורך באַזונדער מיטל באַראַן און GPU VRAM. יוזערז אָפט דאַרפֿן צו קויפן אַ שטאַרק 32GB גפּו צו פאַרגרעסערן די באַראַן צו לויפן אַי מאָדעלס.
אָבער, עפּל לאַגז הינטער Windows / לינוקס אין דער געגנט פון אַי אַנטוויקלונג. רובֿ אַי אַפּלאַקיישאַנז אַרומדרייען אַרום ייַזנוואַרג דיזיינד און געבויט דורך Nvidia, וואָס עפּל פייזעד אין שטיצן פון זיין אייגענע טשיפּס. דעם מיטל אַז עס איז לעפיערעך קליין עפּל-געבוירן אַי אַנטוויקלונג, און ווי אַ רעזולטאַט, ניצן אַי אויף עפּל פּראָדוקטן ריקווייערז איבערזעצונג לייַערס אָדער אנדערע קאָמפּלעקס פּראָוסידזשערז.
בלייבן אויף שפּיץ פון קריפּטאָ נייַעס, באַקומען טעגלעך דערהייַנטיקונגען אין דיין ינבאָקס.
מקור: https://decrypt.co/228325/apple-small-ai-models-openelm-microsoft-phi-mini