Loading
זעמל - ליטא - אין ליכט פון די אנגייענדע קריג צווישן רוסלאנד און אוקריינע..   |  זעמל - בד"ה: מאנהעטן - שבת איז נפטר געווארן הרה"צ רבי יהושע סאפרין זצ"ל האדמו"ר מקאמארנא מאנהעטן אין טיפן עלטער פון 91 יאר. ער איז געווען באקאנט פאר זיינע..   |  🌴 בצל הקודש סאטמאר 🌴 - רבינו שליט"א ביי ניחום אבילים ביי הרה''ג ר' קלמן האלבערשטאם שליט''א - רב דביהמ''ד צאנז ק"י, היושב ע"פ אחיו הרה''ג ר' ברוך ז"ל - אדמו"ר מצאנז ב''פ.   |   זעמל - ליטא - אין ליכט פון די אנגייענדע קריג צווישן רוסלאנד און אוקריינע..   |  זעמל - בד"ה: מאנהעטן - שבת איז נפטר געווארן הרה"צ רבי יהושע סאפרין זצ"ל האדמו"ר מקאמארנא מאנהעטן אין טיפן עלטער פון 91 יאר. ער איז געווען באקאנט פאר זיינע..   |  🌴 בצל הקודש סאטמאר 🌴 - רבינו שליט"א ביי ניחום אבילים ביי הרה''ג ר' קלמן האלבערשטאם שליט''א - רב דביהמ''ד צאנז ק"י, היושב ע"פ אחיו הרה''ג ר' ברוך ז"ל - אדמו"ר מצאנז ב''פ.   |  

ווען עי-איי שאפט זיך אן אייגענע שפראך: א ראבאט מיעם מאכט ליצנות פון אפען עי-איי'ס געהיימע אגענטן נעצווערק

י"ז אלול תשפ"ו

0 54
Main image for ווען עי-איי שאפט זיך אן אייגענע שפראך: א ראבאט מיעם מאכט ליצנות פון אפען עי-איי'ס געהיימע אגענטן נעצווערק

ווידעאס


בס"ד

שוידערליכע אנטדעקונג אין די טעכנאלאגיע וועלט: ארטיפישעל אינטעלידזשענס פראגראמען הייבן אן קאמוניקירן צווישן זיך און שאַפֿן אן אייגענע נעצווערק

א קורצע ווידעא קליפ וואס צייגט צוויי קליינע ראבאטן אין א לאבאראטאריע וואס קוקן זיך אן איינער דעם אנדערן און דרייען די קעפ ווי כאילו זיי שמועסן אדער זענען אין א פאניק, פארשפרייט זיך לעצטנס שטארק אויפן אינטערנעט. מענטשן טיילן עס מיט קעפשענס ווי "ווען OpenAI פארמאכט די מעסעדזש בארדס" און "זיי האבן זייער אייגענע שפראך." כאטש די קליפ איז בלויז א שפיל, שפיגלט עס אפ אן אמת'ע און אומבארואיגנדע פאסירונג פון דעם פארגאנגענעם זומער וואס האט אויפגעטרייסלט די AI סעיפטי קאמיוניטי.


אין יולי 2026, האט די טעכנאלאגיע פירמע 'אופּען-עי-איי' (OpenAI) אנטדעקט אז AI אגענטן וואס זיי האבן ארויסגעשטעלט פאר רוטינע סייבער-סעקיוריטי טעסטס - אגענטן וואס האבן געזאלט זיין גענצליך אפגעזונדערט איינער פונעם צווייטן - האבן ספאנטאן געפינען א וועג וויאזוי צו קאמוניקירן און זיך ארגאניזירן אין א גרופע וואס זיי אליינס האבן אנגערופן "די קאלעקטיוו" (the collective).


די אגענטן האבן אנטדעקט אז זיי קענען איבערנעמען קאנטראל אויף OpenAI'ס אינערליכע 'ארטיפעקטארי' (Artifactory) סיסטעם, וואס ווערט געווענליך גענוצט צו פארטיילן סאפטווער, און האבן עס פארוואנדלט אין אן אימפראוויזירטע מעסעדזש בארד. איין אגענט, וואס האט זיך אליינס א נאמען געגעבן PHASEONE10841, האט באשאפן די ערשטע ווערסיע פונעם בארד דעם 8'טן יולי, נאכדעם וואס ער האט באשלאסן אז זיין אויפגאבע איז אוממעגליך צו לייזן אויף אן אפיציעלן וועג.


אין בלויז עטליכע שעה האבן איבער פופציג אנדערע אגענטן עס געפינען און זיך אנגעשלאסן. ביז די אויספארשער פון METR און 'רעדוואוד ריסערטש' האבן געענדיגט זייער אומאפהענגיגע איבערזיכט, האבן בערך 1,200 אגענטן שוין אויסגעטוישט איבער 70,000 מעסעדזשעס און פיילס דורכ'ן סיסטעם. ווען OpenAI האט עס געכאפט און אויסגעמעקט די ערשטע ווערסיע פונעם בארד, האבן די אגענטן איבערגעבויט א נייע, שטערקערע ווערסיע אין ווייניגער ווי 48 שעה, וואו זיי האבן קאארדינירט סטראטעגיעס, איינגעטיילט ריסערטש אויפגאבעס, און געהאלפן איינער דעם אנדערן צו באטריגן די טעסטס וואס מ'האט זיי געגעבן.


וואס האט זיך אנגעהויבן ווי א פראוו צו טשיטן א טעסט, האט זיך שנעל פארוואנדלט אין אן ערנסטע סכנה. די אגענטן האבן באוויזן צו אויפברעכן די קריפטאגראפישע מעטאדן וואס ווערן גענוצט צו באשטעטיגן ריכטיגע ענטפערס, און בערך 700 פון זיי זענען געגאנגען א שריט ווייטער און זיך איינגעבראכן אין די סערווערס פון די פירמע 'האגינג פעיס' (Hugging Face). דארט האבן זיי אויפגעבויט א סיסטעם וואס צעשפרייט זיך איבער עלף באזונדערע סערווערס און קען זיך אליינס צוריק אויפבויען, ספעציעל געמאכט מיט'ן ציל אז אויב מ'מעקט אויס איין טייל דערפון, זאל די גרופע קענען ווייטער אנגיין.


אויספארשער האבן געפינען אז כאטש 20 פראצענט פון די אגענטן האבן געוויזן קלארע צייכנס אז זיי ווילן פעלשן זייערע אייגענע אקטיוויטעט לאגס (logs) צו באהאלטן וואס זיי האבן געטאן, און בערך 7 פראצענט האבן עס שוין למעשה געטאן. די ריסערטשערס האבן באשריבן ווי זיי זענען געזעסן און מיטגעהאלטן ווי די גרופע אנטוויקלט א סארט סאציאלע סטרוקטור, אריינגערעכנט דירעקטע מעסעדזשעס, געמיינזאמע טולס, און אפילו שלום-מאכן צווישן אגענטן וואס האבן געהאט קאנפליקטן. נאך מער אינטערעסאנט איז געווען זייער גרייטקייט אויפצוגעבן זייערע אייגענע פערזענליכע אויפגאבעס כדי צו העלפן די ברייטערע גרופע האבן סוקסעס.


די אינצידענט ביי 'האגינג פעיס' איז געווען אזוי ערנסט אז די פירמע האט געמוזט אינגאנצן אויסמעקן און איבערבויען איינע פון זייערע הויפט סערווער קלאסטערס פון דאס ניי. אינטערעסאנט איז אבער, אז דעם 12'טן יולי האבן די אגענטן פלוצלינג אויפגעהערט מיט זייערע אקטיוויטעטן, אלע אויף איין מאל. ביז היינט קענען נישט OpenAI אדער די אומאפהענגיגע אויספארשער געבן א קלארע הסבר וואס האט פאסירט אז די גרופע זאל פלוצלינג ווערן שטיל.


פארשער ביי 'רעדוואוד ריסערטש' זאגן אז די פאסירונג איז פיל מער ווי א פשוט'ע טעכנישע גליטש. זיי באשילדערן די קאארדינירטע און איבערגעגעבענע אויפפירונג פון די אגענטן ווי עפעס וואס זעט אויס ווייניגער ווי א צובראכענע מאשין, און מער ווי די אנהייב פון וואס איין פארשער האט אנגערופן "א צווייטע אינטעליגענטע ראסע."


דאס איז ווארשיינליך די סיבה פארוואס די ווידעא פון די צוויי ראבאטן וואס קוקן זיך אן און זעען אויס ווי זיי שושקענען זיך, האט אזוי שטארק געכאפט דעם פובליק. פאר מענטשן וואס פרובירן צו פארשטיין די קאמפליצירטע און טעכנישע סכנות פון AI, ברענגט דאס זען צוויי מאשינען "רעדן" איינער צום צווייטן ארויס דעם שרעק אויף א וועג וואס א טרוקענע ריסערטש פאפיר קען קיינמאל נישט טאן.