"כדי שבני אדם ישתפו פעולה, הם לא צריכים להיות זהים זה לזה בהשקפת העולם שלהם או בהתנהגות שלהם – התנאי ההכרחי היחיד זה היכולת שלהם להחליף מידע זה עם זה. כל עוד אנחנו מסוגלים לשוחח, אנחנו עשויים למצוא סיפור משותף שיקרב אותנו זה לזה."
(נקסוס, יובל נח הררי, עמוד 377)
בתקופה האחרונה יוצא לי לנהוג ברכב הקטן והחמוד שלי, ניסן מיקרה, שאין לו מערכת בקרת שיוט, יעני 'קרוז קונטרול' ואת החלונות האחוריים פותחים וסוגרים ידנית, כמו פעם. מאז הסגרי הקורונה הרכב הזה היה מיועד לנהיגה בסביבה הקרובה לבית, ובמלחמה, לאחר שהעובדים הזרים נטשו בבהלה את ישראל, שימשה המיקרה, את האיש שחזר להתנדב במטעי הבננות של נערותו, בכל בוקר לפני העבודה. לנסיעות הארוכות נהגתי ברכב מדור הבינה המלאכותית.
השבוע, בעודי נוסעת עם המיקרה, להחזיר את החיילת הביתה, סך הכול נסיעה של כשלוש שעות הלוך-חזור, נתפסו לי שרירי הרגל הימנית, שמסתבר שהתרגלה לנוח בחסות הקרוז קונטרול. זהו? ההתנוונו השרירים מחוסר שימוש? תהיתי. והאם אני הופכת בדבר בעקבות הפודקאסט (המצוין, אגב!) מפלגת המחשבות, בו משוחחים ד"ר מיכה גודמן ואפרת שפירא רוזנברג על אירועי השעה, כשהפרקים האחרונים מוקדשים לבינה המלאכותית. בשיחה המרתקת הם מדברים למשל על היכולת לזכור בעל פה מספרי טלפון, שהתנוונה עם יציאתו לאור של הסמאטפון ועל מה עשוי להתנוון אצלנו בעקבות שימוש בבינה המלאכותית, אילו יכולות שלנו כבר לא יהיה בהן צורך?
אולי, תהיתי שוב, יש לעובדה שאני מעמיקה בקריאת נקסוס, ספרו של יובל נח הררי בשבועות האחרונים, קשר לתיאוריה שלי שאני כבר לא רגילה לנהוג בלי העזרים הטכנולוגיים החדשים? ואולי פשוט עברתי את גיל 50 ואפשר להאשים את התהליכים הביולוגיים? בינינו, אני מעדיפה להאשים את AI, לפחות עליו אפשר לשלוט… עדיין…
"מה אם הבינה המלאכותית תסנתז וירוס מידבק כמו קורונה, קטלני כמו אבולה, ואיטי כמו איידס?
עד שהקורבנות הראשונים יתחילו למות והעולם יגלה את הסכנה,
ייתכן שרוב בני האדם בעולם כבר נדבקו." (עמוד 357).
מציד המכשפות, לקולאקים בברית המועצות, ועד לטבח במיעוט הרוהיגיני במיאנמר (בורמה) בחסות האלגוריתם של פייסבוק, שליבה את האלימות נגדם – יובל נח הררי מודאג. "ב־2024 אלגוריתמים כבר יודעים איך לייצר עוד פייק ניוז ותיאוריות קונספירציה חדשות לגמרי בכוחות עצמם." (עמוד 209).
את מה שקורה ברשתות החברתיות כבר יהיה מגוחך להכחיש. הבעיה מתחילה בדינמיקה ההרסנית בה המדיה החברתית רודפת אחר הגדלת מעורבות המשתתפים. כך האלגוריתם גילה שאנחנו נוטים יותר להגיב ולשתף מידע זדוני ורע וכדי להגדיל את המעורבות של המשתמשים ובתגובה הוא הגדיל את הפצת הרוע, גם אם הוא פייק.
יש דרישה מהטייקוניות הטכנולוגיות, לקחת אחריות על האלגוריתמים שלהם. אך הן בתגובה "כל הזמן ממקדות את הדיון בתפקיד שיש להן לנטר ולהגביל תוכן שבני אדם מייצרים, כאילו שבני האדם עושים את כל הצרות, והאלגוריתמים רק מנסים למזער את הנזק שגורמים האנשים." (עמוד 265).
נח הררי מטיח בענקיות הטכנולוגיה כי "כדי שהאמת תנצח, צריך לעזור לה. רשתות צריכות לפתח מנגנוני תיקון־עצמי חזקים שמתגמלים את הפצת האמת. מנגנוני התיקון עצמי האלה יקרים, אבל מי שאכפת להם מהאמת חייבים לעשות את ההשקעה הזו." (עמוד 267).
"אם נאבד את השליטה עליה, הבינה המלאכותית עלולה לא רק לסיים את השלטון האנושי על כדור הארץ אלא גם לכבות את אורה של התודעה. יקום הנשלט על ידי בינה מלאכותית חסרת תודעה יהיה ממלכה של חושך מוחלט. זו האחריות שלנו למנוע את זה." (עמוד 394).
בראייה היסטורית יובל נח הררי מזכיר לנו, כי למרות שאנחנו רואים היום רק את הטוב שיצא מכניסת הטכנולוגיות השונות לחיינו מאז המצאת הדפוס, ש"האנושות הייתה זקוקה לכל כך הרבה שיעורים נוראיים כדי ללמוד מה עושים עם מנוע הקיטור והטלגרף,"(עמוד 308). ההמצאות סייעו לסטלינסטים ולנאצים ולאחרים. המהפכה התעשייתית ערערה את האיזון האקולוגי בכדור הארץ וגרמה לגל של הכחדות. "בעוד שמכונות הדפוס ומכשירי הרדיו היו כלים פאסיביים בידי בני אדם," הוא מזהיר, "מחשבים כבר הופכים לסוכנים עצמאיים, שחומקים משליטתנו ומהבנתנו, ושמעצבים בעצמם את החברה, התרבות וההיסטוריה." (עמוד 204). אז כן, האנושות במרוצת השנים חוותה שגשוג חסר תקדים, אך היה לו מחיר גבוה. "כמה יעלה לנו ללמוד לנהל את ההנדסה הגנטית והבינה המלאכותית?" (עמוד 308).
"דמוקרטיות גוועות לא רק כאשר אנשים אינם חופשיים לדבר,
אלא גם כאשר אנשים לא מוכנים או לא מסוגלים להאזין." (עמוד 151)
הוא מצדד בדמוקרטיה אך מסביר, כיצד גם דיקטטורות צריכות לדאוג מהאפשרויות הגלומות בבינה המלאכותית. קצרה היריעה לפרט את כלל הנושאים המרתקים ב400 העמודים ששימשו לי חברה בשבועיים האחרונים, אך כן אביא כאן את מה שכתב על דמוקרטיות לעומת דיקטטורות ושהמסקנות שלו דיברו אל ליבי.
"דיקטטורה היא מונולוג: המרכז מדבר ומדבר, וכולם מצייתים בשקט. דמוקרטיה, לעומת זאת, היא שיחה… ניהול שיחה מניח שקיים מגוון קולות לגיטימיים. אם לעם יש רק קול אחד, לא יכולה להיות שום שיחה. הקול האחד יכתיב הכול." (עמוד 137+147) נח הררי ממשיך ומסביר, "ככל שאחוז האנשים המשתתפים בחופשיות בשיחה עולה, כך הרשת הופכת לדמוקרטית יותר." (עמוד 150). הסכנה הטמונה בבינה המלאכותית היא ש"מרגע שמחשבים פרצו את מערכת ההפעלה הלשונית שלנו, הם יכולים להקשות עלינו לנהל שיחה ציבורית משמעותית." (עמוד 218).
בסופו של דיון הוא מאמין כי "הסיכוי הטוב ביותר שלנו להימנע מאסון במאה ה־21 הוא לשמור על מנגנוני תיקון־עצמי דמוקרטיים שיכולים לזהות ולתקן טעויות תוך כדי תנועה." (עמוד 308) ולזכור ש"זה שאפשר לעקוב אחרי כולם לא מכריח אף אחד לעשות זאת בפועל ולא אומר שיש בכך היגיון חברתי או כלכלי." (עמוד 309), ושהעובדה שניתן ליצור מערכות אשראי חברתי, המדרגות אותנו כמו בפרק של מראה שחורה "צלילה חופשית", (בה הדמות הידרדרה עד לכלא בעקבות דירוג חברתי שצנח מתקרית עגומה אחת לאחרת), לא אומר שכדאי ליצור אותן.
לדעתו, חשוב שנבין את העקרונות הבסיסיים עליהם דמוקרטיות יכולות וצריכות לשמור בימינו. ארבעת העקרונות הם טובת האדם, ביזור (לשמור שהמידע לא יהיה מרוכז רק במקום אחד), הדדיות (כי לא הגיוני ש"אמזון וטיקטוק יודעים הרבה על ההעדפות, הרכישות ותכונות האישיות שלי, בעוד שאני לא יודע כמעט כלום על המודל העסקי של התאגידים האלה, הסדרי המס שלהם והקשרים הפוליטיים שלהם") (עמוד 312), והעיקרון הדמוקרטי הרביעי הוא להשאיר מקום גם לשינוי וגם למנוחה. יש לו תקווה שעדיין לא מאוחר לשנות, כך הוא כותב, כי אחרת מה הטעם לכתוב ספר כזה ובמילותיו, "התקווה היא שכשנכיר את כל האפשרויות, נוכל למשש את הפוטנציאל החיובי של האלגוריתמים תוך כדי ריסון הפוטנציאל המזיק שלהם." (עמוד 243).
כמובן, כמו שסיימתי את הקריאה עשיתי משהו שכבר עשיתי בעבר ובטח יגרום לי לאי נוחות בשימוש בסמארטפון בתקופה הקרובה. מחקתי את כל קבצי העוגיות, את ההיסטוריה וביטלתי הרשאות על ימין ושמאל לאפליקציות בהן אני משתמשת. המשמעות היא שבעתיד הקרוב בכל פעם שארצה להיכנס לאתר שאני פוקדת תכופות, אצטרך להזין את הסיסמאות. אבל זה בסדר, טוב לנקות ולאתחל מחדש את הטלפון. הבינה אוספת את המידע עלינו, זה האוכל שלה ולפעמים לא בא לי להאכיל אותה. אומרים שזה טוב לצום מידי פעם, לא?
בינתיים, יש הרבה ואפילו המון דברים שהרשת לא יודעת. בדרך כלל אלה הדברים המעניינים. כי כשאנחנו בפרטי שלנו והוא חשוב לנו, לא בא לנו שכל העולם ולהקתו ייכנסו לחדרי ליבנו. אז הנה, עכשיו אשתף משהו עליי, שלא רואים ברשת. מחר, או היום אם הטור יפורסם בשישי, הוא יום השנה לפטירתה של חברתי האהובה, קורין אלאל. קורין הציבורית מאוד של כולנו, אבל אני זכיתי והיא הייתה לי לאשת שיח כמה שנים והיא כה חסרה לי.
הפגישה האחרונה שלנו הייתה במחלקה האונקולוגית של בית החולים שיבא. זו גם הייתה פגישה שנערכה אחרי מספר שנים שלא הצלחנו להיפגש. הבעתי צער רב על כך והיא אמרה שדווקא עכשיו זה מדויק. "אני שמחה עלינו," אמרה לי, "לא נבהלנו מהעולם, לקחנו את הזמן." והיא צדקה, שלוש וחצי שעות בילינו יחד, צחקנו, כאבנו ולא סתמנו לרגע, למרות המחלה והעובדה הידועה שאולי זו הפגישה האחרונה.
כשיצאתי מבית החולים שוחח עמי אחי הגדול. שיתפתי אותו והוא הציע, בהיותו דתי, להתפלל עבורה. שאלתי את קורין והיא הסכימה בתודה. לא חשבתי על זה מאז, אבל לפני כשבוע טלפן אליי אחי וסיפר כי זה תאריך הפטירה העברי שלה והוא התפלל עבורה את התפילה המיוחדת ליום זה. אח שלי לא הכיר אותה אישית, הוא עשה זאת כי היא חשובה לי וזו הסיבה שזה חשוב לו. התרגשתי. זה מסוג הדברים שקורים מחוץ לרשת, שהם החיים עצמם, שמשאירים בנו חותם. ואת זה מאדאם בינה לא תוכל להחליף.
אסיים בציטוט מתוך קהלת, שהלחינה קורין ונתנה לי במתנה את הדיסק עם הספרון. גם קהלת, למרות הבל ההבלים, נתן עצה טובה. אני משתדלת ליישמה בכל שעה משעותיי.
"כי אין טוב מאשר ישמח האדם במעשיו כי־הוא, חלקו" (קהלת, פרק ג, פסוק כ"ב).
פרטי הספר: נקסוס מאת: יובל נח הררי, כנרת, זמורה, דביר מוציאים לאור 2024
קריאה נעימה ושמילים טובות יהיו לצדכם תמיד,
לילי
הכי כיף לקרוא את סיפור המ(י)קרה והתובנות. איזו אלופה שאת.
וחיבוק גדול על קורין.
החיים הם מסע וכרגע המסע משתתף בניסוי אנושי תרבותי שנקרא בינה מלאכותית. ימי יגידו.
חיבוק גדול על השיתוף הרב והנרחב בפוסט הפעם.
כבר כתבתי מקודם, אבל אין מה לעשות, את אלופה!!!
תודה רבה עופר חבר יקר!
אין ספק שזכיתי בקורא הכי מעמיק ושנון ומחבק🙏🏼 מעריכה מאוד