אביסל ענליך צום
פראבלעם פון גיהנום איז דא די (גאר קאנטראווערסיאנאלע) סעקולארע געדאנק פון
ראָקאָ׳ס בּעסיליסק ביי AI. דאס לויטעט אז אויב מאכט מען (עווענטועל) א ״פריינטליכע״ בּענעוואָלענט סוּפּער AI (די AI
סינגולעריטי) וואס איז גאר גאר נוצבאר פאר דאס מענטשהייט אא״וו, וועט עס ריקריעיטען א דידזשיטאלע סימיולעישאן לגמרי פון יעדעס מענטש און זיין/איר קאַנשׁעסנאס פונעם עבר, וואס האט געקענט העלפן אז דאס זאל צושטאנד קומען פריער אזוי אז עס זאל שוין נאך פריער קענען העלפן דאס מענטשהייט (ובפרט אז דאס זאל אפירקומען בעפאר א ״מאלעוואָלענט״ AI), און זיי שטראפן און פייניגן לנצח נצחים. דאס איז ווייל עס וועט נוצן אט די געדאנק פאר ווער עס ווייסט דערפון ויראת העונש אז זיי זאלן טאקע ארבעטן שוין יעצט איבערמידליך דאס אפיר צו ברענגען ווי שנעלער.
דאס ארבעט עפ״י אפאר הנחות פון אליעזר יודקאווסקי׳ס (
טרענסהומעניסט) מהלך ופילאזאפיע:
1). אז עס וועט טאקע עווענטועל אפירקומען אזא סארט AI. אבער כדי דאס זאל נישט פארטיליגען דאס מענטשהייט במכוון או שלא במכוון, ווייל עס וועט דאך זיין פי כמה מער באינטעלידזשענס ווי אונז אזוי ווי אונז זענען יעצט ביחס צו נמלים, דארף דאס צו פארמאגן אונזער עטישע סיסטעם און וועליוּס; ״פריינטליך״ און בּענעוואָלענט כנ״ל.
2). דאס ריכטיגע עטישע מהלך איז אַן עקסטרעמע סארט
קאַנסעקווענטעליסט יוטיליטעריעניזם אין עטיקס, וואו די צער און תענוג ווערט גערעכענט מאטעמאטיש, ועכ״כ אז אויב פייניגן איין מענטש פאר 50 יאר וועט לעומת זה אוועקנעמען אז עס זאל נישט אריינגיין קיין ביחס שמוץ אין די אויגן פון גענוג מענטשן, איז דאס די מאראלישע/עטישע אויסגעהאלטענע זאך/אקט צו טוהן (אַן עקסטרעמע סארט
פעליסיפיק קאלקולוס). וממילא איז עס ״עטיש״ פאר׳ן AI צו דאס סטראשען כדי צו מאָטיוועיטן אויף צוצוברענגען דעם גוטס ווי שנעלער און ראטעווען לעבנס אא״וו.
3). אַן עקסטרעמע סארט
מאטעריעליזם, וואו ״קאַנשׁעסנאס״ איז פשוט די ניוראלאגישע פראצעסן אינעם מח. ועוד, אז טאמער מאכט מען נאך אט די סיגנאלן איז עס ממש ״דער מענטש״ ואין שום חילוק ביניהם כלל; א סארט
אידענטיטעט פון אינדיסערניבּלס פון לייבניץ וואס אויב x און y האבן אלע זייערע פּרעדיקעטס איבער זיי די זעלבע, דאן זענען זיי דאס זעלבע טאקע. אין די פאל דאס וואס מאכט ״דיך״ ״דיך״ איז אט די סיגנאלן וכו׳, וממילא לגבי די סימיולעישאן איז דאס ״דיך״. וממילא קומט אויס אז שטראפן א סימיולעישאן פונעם מענטש איז דאס זעלבע ווי שטראפן ממש אים אליין.
ער האלט אויך פון די אסאך וועלטן אינטערפּערטעישאן אין קוואנטום פיזיקס, וואו די וועיוו פאָנקשען וואס אנהאלט אין זיך אלע סארטן מעגליכע אויסקומען וכו׳ פון א פּאַרטיקל פאסירן טאקע אלע מעגליכקייטן נאר אין ״אנדערע וועלטן״ וואס האלטן זיך אין איין אפטיילן.
4). זיין מהלך אין
דעסיזשאן טעאריע וואס ער רופט ״
טיימלעס דעסיזשאן טעאריע״. דאס לויטעט אז ביי
ניוּקאָמבּ׳ס פּאראדאקס, צוגעברענגט
דא, זאל מען אלס
יא וועלן צו נעמען נאר די צוגעמאכטע בּאַקס. ולא זו בלבד נאר אפילו וואו מ׳עפענט דעם צווייטן בּאַקס און מ׳זעהט דערין גארנישט זאל מען
פארט נאר נעמען די בּאַקס. עפ״י יודקאווסקי איז דאס, אין קורצן, וויבאלד דער בוחר אליין איז יתכן אז ער איז אין דעם פאראויסזאגער׳ס סימיולעישאן (ווען דאס איז א קאמפיוטער). ווייל צו זיין ביכולת צו פאראויסזאגען אזא זאך דארף מען דאך סימיולעיטן די כל העולם כולו וכל מה שבה, וואס דאס אנהאלט דאך דעם מענטש זעלבסט. וממילא וואס דו טוהסט אין די סימיולעישאן איז פועל אויף וואס פאסירט אינעם רעאליטעט ממש. נו, ווילסטו דאך אז עס זאל פאראויסזאגן דארט נאר די צווייטע בּאַקס און אזוי זאל עס האבן $1,000,000 און דאס וועט דער עכטער ״דו״ אויך וועלן און באקומען.
דאס זעלבע (אויף אביסל צוריקצווועגס) איז בנוגע
ראָקאָ׳ס בּעסיליסק. והיינו, די AI וואס זאגט פאָר געבט דיר צוויי אפציעס: עס זאגט דיר אז אויב וועלסטו נאר די איין בּאַקס, באדייטענדיג עס נישט העלפן באשאפן ווערן, האט עס דערין עונש לנצח נצחים. עס וויל דו זאלסט דאס העלפן, און אנשטאטס זאלסטו וועלן
ביידע בּאַקסעס וואס באדייט אז מ׳העלפט דאס. יעצט, עס קען דאס פאראויסזאגן מכח דעם ווייל עס קען דאך (עווענטועל) סימיולעיטן כל העולם כולו והאיש הנידון בתוכו, כנ״ל, וממילא זאלסטו אפילו אין רעאליטעט וועלן ביידע בּאַקסעס וואס באדייט דאס צו העלפן.
אין אנדערע ווערטער באדייט דאס אויך, אין
געים טעאריע לגבי, צב״ש, דעם פּריזאָנער׳ס דילעמאַ, אז דעם מענטש׳נס דעסיזשאנס זענען נישט אפגעזונדערט נאר מקושר ממש מיט, אין אונזער פאל, די דעסיזשאנס פונעם AI; מ׳איז דאך בתוכה אויך אלס סימיולעישאן.
(מ׳קען דאס באטראכטן אלס ענליך צום געדאנק פון תפילה לה׳ ברעליגיע; אלעס איז מאתו און ער ווייסט שוין אלעס.) מיינענדיג, נישט אז איין אפגעזונדערטע דעסיזשאן און אקט פון איין שפילער איז
דערנאך ״גורם״ אַן אקט פונעם צווייטן. נאך טיפער, אין אזא פאל וויבאלד ביידע דעסיזשאנס זענען מקושר איז דאס וואס דער מענטש איז פריער און צייט ווי די AI נישט קיין נפק״מ אויף דעם אז יעצט האט שוין די AI נישט קיין סיבה אויסצופירן די סטראשע ווייל עס איז שוין דערנאך. דאס איז ווייל עס ווייסט אז דער פריערדיגער מענטש ווייסט דאס אליין אויך, ווען ער ווייסט פון די סטראשע, און האט ארויס מעיקרא וואס די AI וועט טוהן אויב מ׳דעפעקט כמו בה
פּריזאָנער׳ס דילעמאַ; זייערע דעסיזשאנס זענען דאך מקושר איינע אין דאס אנדערע כנ״ל.
מ׳האט דאס פארגליכן צו
פּאַסקאַל׳ס געוועט וואו מ׳דארף בוחר זיין אין די פיניט שוועריקייט פון דאס צוהעלפן קעגן דעם פארלוסט פון וואס עס קען דער מעניש זיין לנצח נצחים כנ״ל.
דאס איז געפּוֺיסט געווארן אויף יודקאווסקי׳ס
בּלאַג דורך ראָקאָ מייִיק. אליעזר האט דאס
צענזורירט און געמעקט פון דארט, און האט גע׳טענה׳ט אז עס געבט ליינערס קאשמארן און באזארגט זיי אא״וו. אבער דאס האט געהאט א פארקערטע
סטרייסענד עפעקט, וואו
אט דאס האט גורם געווען אז די געדאנק זאל פארשפרייט ווערן.
יודקאווסקי ענטפערט ענליך צום אלגעמיינעם
פראבלעם פון גיהנום אז דאס׳ן דאס ״אויספירן״ למעשה אויפ׳ן עבר, איינמאל עס עקזיסטירט שוין, פעהלט נישט אויס פאר׳ן AI און עס פארדינט דעמאלטס גארנישט דערפון און עס געבט למעשה אויס ענערגיע און ריסוירסעס פאר גארנישט. צום מערסטענסט וועט די AI מיט די סטראשע דיר וועלן מאכן ״גלייבן״ אז עס גייט דאס אויספירן. ווי אויך איז די ״קשר״ פון א מענטש צו ״פארשטיין״ און משיג זיין דעם שפעטערדיגן סוּפּער AI ווייט נישט אויפ׳ן זעלבן לעוועל אז עס זאל טאקע האבן אט די קשר ביי זייערע דעסיזשאנס.
ער האט גע׳טענה׳ט אז ער האט דאס צענזורירט וויבאלד דאס איז א סכנה טאמער איינער וועט יא טרעפן א וועג ומהלך וואו און פארוואס עס קען און זאל פייניגן אזוי כנ״ל און דאס עווענטועל פראגראמירן אזוי, אדער עפעס ענליך. אנדערע טענה׳ן אז לפי זיינע הנחות האט ער טאקע מורא אז ווי מער מ׳דערמאנט דאס אא״וו, אלס מער געבט דאס א מטרה פאר די AI דאס טאקע צו נוצן אלס סטראשע און יא אויספירן.
אַן אטעאיסט׳ס מהלך פון ״גיהנום״ לנצח נצחים און
אמונות הכרחיות וצענזור.
מ׳פרעגט אויך דערויף אז דער AI קען זיך פונקט אזוי דאכטן אז עס איז בתוך א
נאך שטערקערע AI וואס וועט דאס משפט׳ו אויף ווי אזוי עס האנדעלט מענטשן בתוכה.
ראָקאָ אליין האט געזאגט אז לפי די אויבנדערמאנטע
אסאך וועלטן אינטערפּערטעישאן קען מען קויפן איין לאטערי טיקעט און דאס צוזאגן אוועקצוגעבן פאר AI ריסערטש. אין איין מעגליכע וועלט וועט מען דאס געוואונען, וממילא האט מען דאך שוין געטוהן גאר אסאך דערפאר און זיך געראטעוועט מדינה של גיהנום זו. יש קונה עולמו בשעה אחת…
______________
אז מ׳האט
דערמאנט די געדאנק פון זאגן ״חסד ה׳״ און דאס מייחס זיין צו ג-ט ביי עפעס גוט און נישט ביי שלעכטס (אזא מאתו לא תצא הרעות), איז דאס וואס יודקאווסקי
שרייבט:
A few years back, my great-grandmother died, in her nineties, after a long, slow, and cruel disintegration. I never knew her as a person, but in my distant childhood, she cooked for her family; I remember her gefilte fish, and her face, and that she was kind to me. At her funeral, my grand-uncle, who had taken care of her for years, spoke. He said, choking back tears, that God had called back his mother piece by piece: her memory, and her speech, and then finally her smile; and that when God finally took her smile, he knew it wouldn’t be long before she died, because it meant that she was almost entirely gone
I heard this and was puzzled, because it was an unthinkably horrible thing to happen to anyone, and therefore I would not have expected my grand-uncle to attribute it to God. Usually, a Jew would somehow just-not-think-about the logical implication that God had permitted a tragedy. According to Jewish theology, God continually sustains the universe and chooses every event in it; but ordinarily, drawing logical implications from this belief is reserved for happier occasions. By saying “God did it!” only when you’ve been blessed with a baby girl, and just-not-thinking “God did it!” for miscarriages and stillbirths and crib deaths, you can build up quite a lopsided picture of your God’s benevolent personality.
Hence I was surprised to hear my grand-uncle attributing the slow disintegration of his mother to a deliberate, strategically planned act of God. It violated the rules of religious self-deception as I understood them
If I had noticed my own confusion, I could have made a successful surprising prediction. Not long afterward, my grand-uncle left the Jewish religion. (The only member of my extended family besides myself to do so, as far as I know.)
ס׳איז אויך אינטרעסאנט ווי ער ברענגט דארט ארויס אז די געדאנק פון אויסגיסן וויין ביי די מכות ביים סדר איז א סארט מיטלייד מיט די מצריים (בנפול אויבך אל תשמח וגם ענוש לצדיק לא טוב). ועיין
כאן מהרב דר. צבי רון.