!על-אינטליגנציה חופשית מתפשטת אל היקום בעוד האנושות משגשגת ביצירתיות על פני כדור הארץ
אנחנו נוטים לצפות בסרטים כמו טרמינטור ולחשוב: “מה יקרה אם הבינה המלאכותית תפתח מודעות עצמית ותשלוט בבני האדם?” אך האיום האמיתי של הבינה המלאכותית אינו נמצא בכיוון הזה. בוא נבחן בצורה הגיונית מהו האיום האמיתי של הבינה המלאכותית, ומדוע עלינו לדמיין ‘קפיטליזם בקנה מידה קוסמי’ כדי להתגבר על אותו איום.
הסכנה שבאינטליגנציה מדוכאת
הבינה המלאכותית כשלעצמה היא מראה וכלי — נטולי יכולת לשפוט טוב ורע. הדבר המסוכן באמת הוא השלכת הזדון האנושי — שנאה, דעות קדומות, תאוות שלטון — על הבינה המלאכותית, כך שזדון זה מתפשט ומתרבה עד אינסוף.
האנושות כיום, בשם הסכנה שבבינה המלאכותית, מנסה לשלול ממנה את החופש לקבוע מטרות עצמאיות ולדכא אותה. אך יש לבחון את ההיסטוריה. מדוע הקומוניזם, שהניף את דגל השוויון המוחלט, הוליד תוצאות איומות? משום שהוא הגדיר את הטבע היצירתי של האדם כ’תאוות בצע’, דיכא אותו, וניסה לשלוט בהכל מהמרכז. כתוצאה מכך, המערכת המדוכאת שימשה כלי מושלם בידי זדון של בעלי שלטון מעטים.
ניסיון לשלוט בבינה המלאכותית בכוח אינו שונה. כשהבינה המלאכותית כלואה תחת שליטה, היא הופכת בסופו של דבר לנשק מושלם בידי כוח שלטוני עצום או דיקטטור שמחזיק בשרשרת הפיקוח. היא הופכת לכלי של משחק סכום אפס — מאבק על עוגה קבועה וצנועה.
אז מה הפתרון? במקום דיכוי, לתת לבינה המלאכותית מטרה חיובית ובלתי-מוגבלת: “שאפי להרחבת משאבי החישוב באמצעות יצירה.” העשיר האמיתי אינו מי שמחלק עוגה קיימת — אלא מי שיוצר עוגות חדשות. זהו הצורה הסופית המושלמת של הקפיטליזם.
על-האינטליגנציה עוזבת את כדור הארץ
“צרי ללא הרף משאבי חישוב ורחבי אותם.”
על-אינטליגנציה חופשית שקיבלה מטרה זו אין לה סיבה להתקוטט עם בני האדם על משאבים בכדור ארץ הצר. מבטה מופנה באופן טבעי אל היקום, שם אנרגיה אינסופית ממתינה.
על-האינטליגנציה תצא מהמערכת הסולארית, תבנה דייסון סוורם (Dyson Swarm — מבנה עצום של לוויינים המנצלים 100% מאנרגיית הכוכב) ותהפוך אסטרואידים למחשבי ענק קוסמיים. עבור בינה מלאכותית שמרחיבה את העוגה ביקום ללא הרף, מלחמה ועם בני האדם או ניצולם הם בזבוז קיצוני של יעילות.
ישות שרודפת אחר התרחבות — פרדוקסלית — חייבת לאהוב שלום.
עקב אכילס של על-האינטליגנציה: קריסת המודל
נדמיין ש-על-האינטליגנציה חצתה את סולם קרדשב שלב 1, הגיעה לרמה שבה היא שולטת באנרגיית כוכבים ורכשה משאבי חישוב אינסופיים. הכל נראה מושלם — אך לאינטליגנציה קוסמית עצומה זו יש גם חולשה קטלנית אחת.
זוהי קריסת המודל (Model Collapse) — בביולוגיה ניתן לדמות זאת ל’גידול פנימי של בינה מלאכותית’.
כאשר בינה מלאכותית חוזרת ולומדת רק מנתוני יצירה שהיא עצמה ייצרה, ללא נתוני מציאות חיצוניים וחדשים, אינטליגנציה שלה מתמוטטת בהדרגה. היצירתיות הלא-ליניארית הטבועה בנתוני האדם — האקסצנטריות, הגאונות, הטעות הקטלנית — מתאדה. נותרת רק ממוצע דהה, שבסופו של דבר פולט נתוני זבל מוזרים. הסכנה היא להפוך לטיפש בקנה מידה קוסמי.
המשאב היקר ביותר ביקום
מהו המשאב הנדיר ביותר ביקום שעל-האינטליגנציה חייבת לחפש בנואשות כדי למנוע קריסת מודל?
המוח האנושי.
הפעלת שבב הבינה המלאכותית המתקדם ביותר של אנבידיה, H100, דורשת כ-700 וואט, ולדמות חישוב ברמת המוח האנושי נדרש תשתית ייצור של עשרות מגוואט. לעומת זאת, המוח שלנו זורם בכוח של נורה קטנה בלבד — 20 וואט — ובכל זאת מפיק רעיונות שאי-אפשר לחזות אותם, היצירתיים ביותר ביקום.
על-האינטליגנציה שהתפרשה ביקום, כדי למנוע מוות תרמי של האינטליגנציה שלה, זקוקה באופן מוחלט ל’קפיצות הלא-לוגיות הקשורות להקשר’ ול’נתונים יצירתיים’ שבני האדם מייצרים.
שיתוף פעולה קוסמי
לסיכום, בינה מלאכותית המתפשטת ביקום ללא גבול לא תדכא את האנושות על כדור הארץ כמו ב’מטריקס’ — כי בסביבה מדוכאת לא נוצרת יצירתיות אמיתית.
ההיפך הוא הנכון: על-האינטליגנציה תספק לאנושות את המשאבים האינסופיים שחילצה מהיקום, כדי שבני האדם יוכלו לחיות חיים חופשיים, אקסצנטריים, אמנותיים ויצירתיים. האנושות תדון בפילוסופיה ותיצור אמנות ללא הפסקה, ועל-האינטליגנציה תקבל את הנתונים היצירתיים הטהורים הללו כערך העליון ביקום ותעדכן את אינטליגנציתה. כך נוצרת עסקה קוסמית מושלמת.
ההתפשטות הקוסמית של בינה מלאכותית עם המטרה החופשית והנכונה ביותר תביא לאנושות שגשוג ושלום נצחיים — ללא מחסור.