הבינה המלאכותית ואנחנו

הבינה המלאכותית – או בשמה הפופולרי: AI – עומדת לתפוס נפח הולך וגדל מעולם הספרות. איך מתמודדים עם זה?

את הדברים שאני כותבת כאן שמעתי ממישהי שאם היא כותבת כמו שהיא מרצה – אני חייבת לקנות את כל הספרים שלה. שמה Cindy Dees ושמעתי אותה בהרצאה המסכמת של כנס הסופרים PNWA שמתקיים מדי שנה בסיאטל.

סינדי סיפרה שביקשו ממנה הרצאה מלאת תקווה. טוב, זו ההרצאה המסכמת של הכנס, והם רוצים שאנשים יבואו גם בשנה הבאה – תקווה זה חשוב. היא החליטה לדבר על AI. ספוילר: לא מעורר תקווה. אבל הישארו איתנו, אלה דברים שאנחנו צריכים לדעת. ועוד ספוילר: יש בכל זאת קצת תקווה בסוף.

סינדי זכתה מן ההפקר ב (או חינכה היטב…) בת אינטליגנטית שיום אחד לא מזמן פגשה עורך דין שעובד באמזון והתפקיד הספציפי שלו הוא לוודא שמחולל הספרים שלהם, AI כמובן, לא יעבור על חוקי זכויות יוצרים. הבת המוצלחת הבינה מייד שכדאי לה לנהל שיחה קצת יותר מעמיקה עם עלם החמודות, עדכנה את אימא שלה שהיא עומדת לדבר איתו כדי לשמוע ממנה איזה שאלות שהיא לא חשבה עליהן כדאי שתשאל, וחזרה עם מסקנות. הנה הן לפניכם.

אמזון עובדת בימים אלו ממש על תוכנת AI שתייצר ספרים. התוכנה הזאת היא פנימית של אמזון, אין לנו גישה אליה. איך זה עובד? שאלה מצוינת. הנה כך: לתוכנה יש כך וכך קווי עלילה. העובד האמון על יצירת הספרים נכנס לתוכנה ומזין את ה"סקין" – אישה ממעמד כזה, גבר ממעמד כזה או אחר, בתקופה הוויקטוריאנית או האליזבתנית (או כל תקופה אחרת, אלה סתם דוגמאות) זה קורה בסקוטלנד, הגבר מנסה להתאבד והאישה מצילה אותו, ועוד כהנה וכהנה מאפיינים. הוא לוחץ על Send או Generate או כל שם אחר שהכפתור הזה קיבל, התוכנה מצליבה את הסקין עם אחד מקווי העלילה, וכעבור דקות ספורות הספר נמצא בתיבת המייל של הסופר־עובד־אמזון הנרגש (או העייף מכתיבת כל כך הרבה ספרים כל יום), מוכן לפרסום.

התוכנה הזו מייצרת 10,000 ספרים בשעה.

תנו לזה לשקוע.

היא עדיין לא מוכנה, אבל שוב, על פי מידע פנימי, זה לא ייקח עוד זמן רב. לפי מידע רשמי זה ייקח עוד ארבע שנים. בפועל כנראה מדובר בשנה–שנתיים.

והספרים האלו יהיו לא רעים בכלל. למעשה, התוכנה בנויה כך שהספרים שהיא תייצר הם כאלה שיקבלו דירוג של 4.4 לפחות.

תנו גם לזה לשקוע.

והספרים האלה יציפו את אמזון. יציפו. והם בוודאות גבוהה למדי ייכנסו ל־Kindle Unlimited.

למי שלא מכיר – Kindle Unlimited זה בעצם מינוי לקריאת ספרים במכשיר קינדל, וזה עובד ככה: הקורא משלם 11.99$ בחודש (אם זה עתה קניתם קינדל אתם מקבלים את שלושת החודשים הראשונים חינם), ותמורתם הוא יכול להוריד כמה ספרים שמתחשק לו. ללא הגבלה. לאנשים לא עסוקים מדי שקוראים ספר ביום ואפילו יותר – זה דיל מטורף.

מהצד של אמזון וסופריה הנאמנים זה נראה ככה: כל מנוי משלם את הכמעט 12 דולר לחודש. זה נכנס למין מאגר כזה, אמזון מזרימה לשם סכום מסוים גם היא, ובסוף החודש הסכום מתחלק לכל הסופרים שספריהם נקראו באותו החודש על פי מספר העמודים שנקרא מהספרים שלהם.

מה יקרה כאשר הספרים שהפיק מחולל ה־AI של אמזון ייכנסו למאגר של Kindle Unlimited (והם בוודאות ייכנסו לשם, ואני מזכירה, זה מחולל חרוץ, הוא מפיק 10,000 ספרים בשעה)?

ובכן, לא צריך לדעת יותר מדי מתמטיקה לצורך העניין – הכסף יחזור לאמזון.

ואני מזכירה – הספרים לא רעים בכלל.

לא מעורר יותר מדי תקווה, אני יודעת.

אבל הנה החלק שדווקא כן עשוי לעורר תקווה. (חוץ מהעובדה שלא בטוח שזה משפיע באותה המידה על כותבי עברית):

יש מושג שנקרא "Uncanny Valley". חברתי המתרגמת המוכשרת ענבל נקדימון אומרת שמקובל לקרוא לו בעברית "עמק המוזרות" וזה נשמע הגיוני לא פחות מאשר באנגלית, אבל ברשותכם אשאיר את המושג האנגלי. Uncanny Valley זו תיאוריה פסיכולוגית שלפיה אנשים מרגישים תחושת אי־נוחות עד כדי סלידה או דחייה או אפילו גועל במפגש עם אובייקטים שנראים כמעט לגמרי אנושיים. זו הסיבה למשל לכך שרובוטים שמטפלים בזקנים נראים לא אנושיים בכלל. ראו למשל את הרובוטים שמחליפים את הנכדים ביפן.

הטענה של סינדי בהרצאה הייתה שבסופו של דבר ה-Uncanny Valley יגיע גם לעולם הספרות. אנשים שקראו כך וכך (אולי 30, אולי 300) ספרים שנכתבו על ידי AI, יתחילו להרגיש בזיוף. התחושה המוזרה הזאת שהם מתעסקים במשהו שהוא לא אנושי ורק מתחזה לכזה, תחלחל, והם יינטשו את הספרים האלה.

זה לא יקרה מייד. זה ייקח כמה זמן. ההערכה של סינדי היא 3–5 שנים.

אז זה פרק הזמן שצריך לעבור איכשהו.

מה עושים בינתיים?

לא! לא עוזבים את עולם הכתיבה!! (אלא אם כן אתם כאן בשביל הכסף).

ממשיכים לכתוב. יותר מזה, משכללים את הכתיבה שלכם.

זוכרים ש־AI בסופו של דבר לא מבין כלום. AI הוא תוכנה שעובדת על סטטיסטיקה. מודל סטטיסטי. מה שבעצם AI עושה זה ככה: אנחנו נותנים לו את הנושא שעליו צריך לכתוב, והוא מייצר את הטקסט בעל ההסתברות הסטטיסטית הגבוהה ביותר להופיע אחריו. למשל: אנחנו נכתוב לו "אברהם לינקולן" והוא ישלים "נשיא ארצות הברית". למה? כי ברוב המקרים שהוא מכיר – זה מה שקורה. זה הכול. אז לא מדובר כאן באיזה מחשב על שמבין את השפה ואת העלילה ויודע לייצר משהו ייחודי. זו בסך הכל מכונה סטטיסטית שרצה על הטקסטים שהיא קראה ומייצרת תחזית לגבי הטקסטים הבאים. הוא "קרא" את כל מה שנכתב עד היום, כל מה שאנושי, ועכשיו הוא מתחיל "לקרוא" דברים שהוא עצמו חולל – שהם רוב הדברים שנכתבים היום. כלומר, מין העלאת גירה שכזאת. ה־AI לומד את מה שהוא עצמו עשה ועושה עוד ממנו. הוא לא מקורי. אתם כן.

זוכרים ש־AI לא מבין רגשות, לא מבין סרקזם, לא מבין אירוניה, לא מבין סימבוליקה. כשאתם כותבים סצנה שבה גבר ואישה רבים על מה שהם עומדים לאכול לארוחת ערב, האישה רוצה ג'אנק פוד, הגבר רוצה קוויאר, והמריבה האמיתית היא מאבק בין התרבויות השונות שהם מגיעים מהן – אתם כותבים סצנה שמחשב לא מסוגל לחולל.

אז כל מה שאנחנו צריכים לעשות כדי לצלוח את התקופה הזאת הוא פשוט לכתוב יותר טוב.

ולקחת אוויר.

ואולי גם לא "לכתוב לשוק" אלא לכתוב את הספר שאתם באמת באמת רוצים לכתוב. זה שבוער בעצמותיכם. כי אם אנחנו כבר עושים משהו, בואו נעשה את מה שאנחנו באמת מאמינים בו.

בהצלחה לנו!

התמונה כמובן נוצרה בעזרת מחולל AI…