עי-איי אלארם: געוועזענער פארשער ביי "אנטראפיק" ווארנט איבער די מערסט געפארליכע טעכנאלאגיע אין די היסטאריע
בס"ד
שוידערליכע ווארענונג פון א געוועזענעם 'עי-איי' פארשער: "ארטיפישעל אינטעלידזשענס איז די מערסט געפארפולע טעכנאלאגיע וואס די מענטשהייט האט נאר אמאל באשאפן"
דזשעיקאב קאקסאן, א 27-יעריגער קעמברידזש מאטעמאטיק גראדואירטער און א געוועזענער פארשער ביי די גרויסע 'עי-איי' (AI) פירמעס 'אנטראפיק' (Anthropic) און 'אופען-עי-איי' (OpenAI), האט ארויסגעגעבן א שארפע ווארענונג איבער די געפארן פון ארטיפישעל אינטעלידזשענס. אין פרישע אינטערוויוס און א פאוסט וואס איז געווארן וויירעל, האט קאקסאן געזאגט אז די וועלט ווייסט ווי אזוי צו קאנטראלירן נוקלעארע וואפן, אבער מען ווייסט נאך נישט ווי אזוי צו קאנטראלירן עי-איי. ער האט רעזיגנירט פון זיין פאזיציע ביי 'אנטראפיק' נאך א קורצע צייט, כדי צו קענען רעדן אפן איבער די ריזיקעס וואס ער האט מיטגעהאלטן פון אינעווייניג.
קאקסאן טענה'ט אז די פירנדע עי-איי קאמפאניס זענען פיל מער פאקוסירט אויף א געיעג ווער עס קען בויען די מערסט פארגעשריטענע מאדעלן שנעלער, ווי איידער צו מאכן זיכער אז עס איז סעיף פאר די מענטשהייט. ער האט באצייכנט דעם יעצטיגן מצב ווי א געפארפולע געיעג צו א "סופער-אינטעלידזשענס" וואס קען זיך אליינס פארבעסערן, זאגנדיג אז מען שפילט זיך מיט מענטשליכע לעבנס. לויט אים, גלייבן אסאך פון די וואס בויען די סיסטעמען פריוואט אז די טעכנאלאגיע קען פירן צו קאטאסטראפאלע רעזולטאטן אין די קומענדיגע צען יאר. ער רופט דאס אן אן "עי-איי וואפן-געיעג" און זאגט אז די איינציגסטע לעזונג איז אז לענדער איבער די וועלט זאלן זיך פאראייניגן דאס צו קאנטראלירן.
זיין רעזיגנאציע און פובליק סטעיטמענטס האבן געצויגן גרויס אויפמערקזאמקייט, וויבאלד עס קומט פון איינעם וואס האט דירעקט געארבעט אויף די מערסט פארגעשריטענע מאדעלן. קאקסאן האט איבערגעלאזט 'אנטראפיק' נאך בעפאר ער האט באקומען זיין פולע פינאנציעלע קאמפענסאציע און שעירס, וואס צייגט אז זיין באשלוס איז געקומען פון אן אמת'ע זארג און נישט פאר געלט. אין זיינע אינטערוויוס האט ער ארויסגעברענגט אז די דרוק פון קאנקורענץ צווישן די קאמפאניס צווינגט זיי צו גיין פיל שנעלער ווי די סעיפטי פארשונגען קענען נאכקומען. ער האט געפאדערט אז גאווערנמענטס און אינטערנאציאנאלע ארגאניזאציעס זאלן זיך אריינמישן מיט א קאארדינירטע פלאן וואס זאל אפשטאטן דעם געיעג אן אפשטעלן אינגאנצן דעם פראגרעס.
אינטערעסאנט איז, אז שטיצע פאר קאקסאן'ס זארגן קומט פון די אינדוסטריע זעלבסט. דער הויפט פון 'סעיפטי און אליינמענט' ביי 'אנטראפיק' האט עפנטליך מסכים געווען אז פארגעשריטענע עי-איי טראגט מיט זיך אן ערנסטע ריזיקע פון אויסראטן די מענטשהייט אין די קומענדיגע יארצענדלינג, שאצנדיג די ריזיקע אויף העכער 10 פראצענט לויט זיין פערזענליכע מיינונג. כאטש די קאמפאני טענה'ט אז זיי ארבעטן ערנסט אויף סעיפטי, צייגט די אנערקענונג אז די יעצטיגע מיטלען צו קאנטראלירן די מעכטיגע סיסטעמען זענען דערווייל נישט גענוג. עס גייט אן א שארפע דעבאטע ווי נאנט מען האלט צו סיסטעמען וואס וועלן זיך קענען אליינס פארבעסערן אן קיין מענטשליכע קאנטראל.
קאקסאן'ס ווארענונג קומט אין א צייט וואס עי-איי טעכנאלאגיע גייט פאראויס מיט א מורא'דיגע שנעלקייט און רעגירונגען קוקן דערויף ווי א סטראטעגישע פריאריטעט. ער לייגט אראפ דעם פראבלעם אלס ספעציעל שווער, ווייל אנדערש ווי נוקלעארע וואפן, קענען מעכטיגע עי-איי סיסטעמען זיך גרינגער פארשפרייטן און האנדלען אויף די אייגענע האנט איינמאל זיי זענען אנטוויקלט. זיין פארגעשלאגענע לעזונג איז געוואנדן צו אן אינטערנאציאנאלע קאאפעראציע, ווי איידער אז איין קאמפאני זאל זיך אפשטעלן און מורא האבן אז אירע קאנקורענטן וועלן איר איבערשטייגן.
דער געוועזענער פארשער'ס מעסעדזש איז קלאר און דרינגנד: די צייט אפצשטעלן אדער קאנטראלירן די סכנה ווערט אלס קלענער, און אויב די ווילדע קאנקורענץ גייט אן אומגעשטערט, קען עס פירן צו אומאומקערבארע קאטאסטראפעס. עס בלייבט איבער צו זען צי זיין רוף פאר גלאבאלע קאאפעראציע וועט אויפגעכאפט ווערן דורך פאליטישאנס און אינדוסטריע פירער, אבער דערווייל האבן זיינע רייד נאר פארשטארקט די שוין-אזוי-אויך ברענענדיגע דעבאטע צווישן טעכנאלאגישע פראגרעס און די זיכערהייט פון די מענטשהייט.
שוידערליכע ווארענונג פון א געוועזענעם 'עי-איי' פארשער: "ארטיפישעל אינטעלידזשענס איז די מערסט געפארפולע טעכנאלאגיע וואס די מענטשהייט האט נאר אמאל באשאפן"
דזשעיקאב קאקסאן, א 27-יעריגער קעמברידזש מאטעמאטיק גראדואירטער און א געוועזענער פארשער ביי די גרויסע 'עי-איי' (AI) פירמעס 'אנטראפיק' (Anthropic) און 'אופען-עי-איי' (OpenAI), האט ארויסגעגעבן א שארפע ווארענונג איבער די געפארן פון ארטיפישעל אינטעלידזשענס. אין פרישע אינטערוויוס און א פאוסט וואס איז געווארן וויירעל, האט קאקסאן געזאגט אז די וועלט ווייסט ווי אזוי צו קאנטראלירן נוקלעארע וואפן, אבער מען ווייסט נאך נישט ווי אזוי צו קאנטראלירן עי-איי. ער האט רעזיגנירט פון זיין פאזיציע ביי 'אנטראפיק' נאך א קורצע צייט, כדי צו קענען רעדן אפן איבער די ריזיקעס וואס ער האט מיטגעהאלטן פון אינעווייניג.
קאקסאן טענה'ט אז די פירנדע עי-איי קאמפאניס זענען פיל מער פאקוסירט אויף א געיעג ווער עס קען בויען די מערסט פארגעשריטענע מאדעלן שנעלער, ווי איידער צו מאכן זיכער אז עס איז סעיף פאר די מענטשהייט. ער האט באצייכנט דעם יעצטיגן מצב ווי א געפארפולע געיעג צו א "סופער-אינטעלידזשענס" וואס קען זיך אליינס פארבעסערן, זאגנדיג אז מען שפילט זיך מיט מענטשליכע לעבנס. לויט אים, גלייבן אסאך פון די וואס בויען די סיסטעמען פריוואט אז די טעכנאלאגיע קען פירן צו קאטאסטראפאלע רעזולטאטן אין די קומענדיגע צען יאר. ער רופט דאס אן אן "עי-איי וואפן-געיעג" און זאגט אז די איינציגסטע לעזונג איז אז לענדער איבער די וועלט זאלן זיך פאראייניגן דאס צו קאנטראלירן.
זיין רעזיגנאציע און פובליק סטעיטמענטס האבן געצויגן גרויס אויפמערקזאמקייט, וויבאלד עס קומט פון איינעם וואס האט דירעקט געארבעט אויף די מערסט פארגעשריטענע מאדעלן. קאקסאן האט איבערגעלאזט 'אנטראפיק' נאך בעפאר ער האט באקומען זיין פולע פינאנציעלע קאמפענסאציע און שעירס, וואס צייגט אז זיין באשלוס איז געקומען פון אן אמת'ע זארג און נישט פאר געלט. אין זיינע אינטערוויוס האט ער ארויסגעברענגט אז די דרוק פון קאנקורענץ צווישן די קאמפאניס צווינגט זיי צו גיין פיל שנעלער ווי די סעיפטי פארשונגען קענען נאכקומען. ער האט געפאדערט אז גאווערנמענטס און אינטערנאציאנאלע ארגאניזאציעס זאלן זיך אריינמישן מיט א קאארדינירטע פלאן וואס זאל אפשטאטן דעם געיעג אן אפשטעלן אינגאנצן דעם פראגרעס.
אינטערעסאנט איז, אז שטיצע פאר קאקסאן'ס זארגן קומט פון די אינדוסטריע זעלבסט. דער הויפט פון 'סעיפטי און אליינמענט' ביי 'אנטראפיק' האט עפנטליך מסכים געווען אז פארגעשריטענע עי-איי טראגט מיט זיך אן ערנסטע ריזיקע פון אויסראטן די מענטשהייט אין די קומענדיגע יארצענדלינג, שאצנדיג די ריזיקע אויף העכער 10 פראצענט לויט זיין פערזענליכע מיינונג. כאטש די קאמפאני טענה'ט אז זיי ארבעטן ערנסט אויף סעיפטי, צייגט די אנערקענונג אז די יעצטיגע מיטלען צו קאנטראלירן די מעכטיגע סיסטעמען זענען דערווייל נישט גענוג. עס גייט אן א שארפע דעבאטע ווי נאנט מען האלט צו סיסטעמען וואס וועלן זיך קענען אליינס פארבעסערן אן קיין מענטשליכע קאנטראל.
קאקסאן'ס ווארענונג קומט אין א צייט וואס עי-איי טעכנאלאגיע גייט פאראויס מיט א מורא'דיגע שנעלקייט און רעגירונגען קוקן דערויף ווי א סטראטעגישע פריאריטעט. ער לייגט אראפ דעם פראבלעם אלס ספעציעל שווער, ווייל אנדערש ווי נוקלעארע וואפן, קענען מעכטיגע עי-איי סיסטעמען זיך גרינגער פארשפרייטן און האנדלען אויף די אייגענע האנט איינמאל זיי זענען אנטוויקלט. זיין פארגעשלאגענע לעזונג איז געוואנדן צו אן אינטערנאציאנאלע קאאפעראציע, ווי איידער אז איין קאמפאני זאל זיך אפשטעלן און מורא האבן אז אירע קאנקורענטן וועלן איר איבערשטייגן.
דער געוועזענער פארשער'ס מעסעדזש איז קלאר און דרינגנד: די צייט אפצשטעלן אדער קאנטראלירן די סכנה ווערט אלס קלענער, און אויב די ווילדע קאנקורענץ גייט אן אומגעשטערט, קען עס פירן צו אומאומקערבארע קאטאסטראפעס. עס בלייבט איבער צו זען צי זיין רוף פאר גלאבאלע קאאפעראציע וועט אויפגעכאפט ווערן דורך פאליטישאנס און אינדוסטריע פירער, אבער דערווייל האבן זיינע רייד נאר פארשטארקט די שוין-אזוי-אויך ברענענדיגע דעבאטע צווישן טעכנאלאגישע פראגרעס און די זיכערהייט פון די מענטשהייט.
