הדבר החדש הוא הבינה המלאכותית. ראיתי שאוניברסיטה בארצות הברית מציעה 20 או 30 משרות למחלקה חדשה שתיוחד לזה. בעיתון קראתי שבינה מלאכותית כבר הורגת אנשים אצלנו, כמעט כמו בסרטי ה"טרמינייטור". מדברים על שילוב של בינה מלאכותית במערכת המשפט, בתור שופטת (שופטת שקוראת את כל פסקי הדין בכמה שניות, ולא צריכה לצאת לאכול סנדוויץ' אחרי שעתיים) ובתור עורכת דין (כמו המסחר בבורסה, שלהבנתי כבר שנים מנוהל על ידי מחשבים). אפילו למדעי הרוח הטכנולוגיה הזאת חודרת. כבר קיבלתי עבודות בקורסים עיוניים ואפילו בסדנת כתיבה יוצרת שסגנונה של הבינה המלאכותית ניכר בהן בוודאות. אני מניח שיש עבודות סמינריוניות ואולי אף דוקטורטים שנכתבים ברגעים אלו ממש, תוך שניות או דקות.
ארצה לתרום בקיצור זווית ראיה של מחקר זעיר שעשיתי על הבינה המהוללת. ההתרשמות שלי היא שמדובר בשילוב של מנוע חיפוש אמין ומפתיע, לפעמים מדהים, ב"אינטליגנציה" שלו, במהירות תגובתו ובמחשבתו הסדורה, עם שקרן פתולוגי במקרים רבים אחרים. ואין כל דרך להבחין בין מידע אמין ובין מידע מופרך לגמרי.
הפואטיקה של השקר שלו היא מסירת מידע מפורט שנותן רושם שהוא יודע על מה הוא מדבר בתוספת קלישאות לאווירה נעימה. והוא לעולם לא מודה שאינו יודע.
זה מה שהופך את השקרנות לכזאת מדאיגה. השופטת המלאכותית לא צריכה לאכול כריך אבוקדו, אבל היא יכול לשקר בטון זהה לטון שיקבע כי 1+1=2. מה שמעניין כל כך הוא הערצת השקרן. ואני תוהה האם יש זיקה כלשהי בין הערצת הטכנולוגיה והערצת הדמגוג במישור הפוליטי. ההערצה מצפה מהמשיב שיענה בביטחון, לא משנה מה יאמר. העיקר שלא יהסס ולא יתייעץ ולא יודה שאינו יודע, כי זה נתפס כחולשה, וכנראה מזה רבים מפחדים.
יהיו שיאמרו שככל שהטכנולוגיה תשתפר השקרים ילכו וייעלמו. לדעתי זו רק משאלת לב. אין שום דרך לדעת, להבנתי, אם לא יקרה ההיפך, והשקרים והמידע הכוזב יהפכו ליותר מפורטים, ליותר דמויי אמת.
כשאני מקבל מידע שגוי ומופרך מהבינה המלאכותית, אם אני אומר לה שהמידע שגוי היא ממהרת לתקן את עצמה. היא מודה בטעות ואז כמעט תמיד מוסרת מידע מתוקן שהוא שגוי באופן אחר. כשאני מנסה לברר מדוע היא לא מודה שאינה יודעת, היא מתחמקת, מציעה לי עזרה בנושא אחר. ואם איני מתקן את שגיאותיה היא ממשיכה לשקר. הנה כמה דוגמאות, מעט מהרבה.
ביקשתי לסכם את עלילת הספר "הדוב" של אסף שור. זאת התשובה:
למי שלא קרא את הספר המצוין הזה, יובהר שמדובר בהבל מגוחך. "גבר בשם אריה שהופך לדוב!". במקרים רבים, האמת של הבינה המלאכותית היא קריקטורה, והרטוריקה העניינית והמפורטת שלה מנסה לטשטש את קוויה המופרזים.
שאלתי אותו על הוצאת בבל (אין לי כאן צילום מסך) שבימים אלו חוגגת 30 להיווסדה:
הוצאת "בבל" הוציאה כמה ספרים שזכו להצלחה רבה ולהערכה בקהל הקוראים הישראלי. הנה כמה מהבולטים שבהם:
1. **"האמן ומרגריטה" מאת מיכאיל בולגקוב"**" – תרגום לעברית של הקלאסיקה הרוסית נחשב אחד הספרים המרתקים בהוצאה, וזכה להערכה רבה בשל העלילה הסוריאליסטית והמשחק בין מציאות לפנטזיה.
2. **"תמונות יפואיות" מאת מנחם תלמי** – ספר שמביא את האווירה והחיים ביפו בשנות החמישים והשישים, והוא אהוב במיוחד על חובבי התרבות הישראלית הקלאסית.
3. **"קיצור תולדות האנושות" מאת יובל נח הררי" – אמנם יצא לראשונה בהוצאת "דביר", אך בהמשך ראה אור בגרסאות רבות גם ב"בבל", והוא אחד הספרים הישראליים המצליחים ביותר בעולם.
לכל אחד מהספרים הללו קהל מעריצים שמעריך את בחירת התכנים ואת ההקפדה בתרגום.
לטובת מי שאינו בקי, אף אחד מהספרים הללו לא ראה אור בהוצאת "בבל". גם לא ה"גרסאות הרבות" של רב-המכר של יובל נח הררי. אילו הייתי משקיע זר ששוקל לרכוש את הוצאת "בבל", יש להניח שהייתי מקבל החלטת רכישה בעקבות סעיף 3. ואני נחרד לחשוב על החלטות יותר הרות גורל מהשתלטות על הוצאת ספרים – למשל, הוצאה להורג. היום שאלתי שוב; התשובה תוקנה בשקר חלופי, והפעם זכתה בזכויות היוצרים הוצאת עם עובד:
כשאמרתי שמדובר בשקר, הטעות תוקנה, בשקר נוסף (שלישי), תוך התנצלות לבבית וכנה:
שאלתי אותו על ספר שכתבתי מזמן (בהוצאה הנ"ל). הוא לקח את הדמות מספר אחד וקבע בביטחון שהיא מופיעה ב"מספר ספרים". שוב, לטובת מי שאינו מכיר, סעיפים 1+2 הם שקר, וסעיף 3 הוא קלישאה: השילוב המאפיין את הפואטיקה של הבינה המלאכותית.
עכשיו רק חשבו על דורות של ילדים שידברו עם המסכים האלה וילמדו מהם סגנון ורטוריקה.
אולי המכונות לא יהיו מכונות חיסול לגופים כמו בקטע הזה מ"שליחות קטלנית" (תרגום קטלני ל-terminator) אלא מכונות חיסול של תודעה, של מחשבה, של יצירתיות, של דיבור ושל אמת?
נ"ב:
מתחת לשולחן 
מניסיוני המועט עם מחוללי בינה מלאכותית נתקלתי בתופעות דומות, , לצד תשובות רהוטות ולכאורה אינטליגנטיות יש תכנים שהם שטויות מוחלטות. מה שמדאיג במיוחד, לצד הסובלנות לשקרים שהבינה מייצרת, כפי שציינת, הוא שהבינה תייתר את המאמץ האינטלקטואלי, רגשי, יצירתי של האדם, תייתר את כל מה שהוא "מותר האדם". מוסר ממילא לא נכלל כאן, מלבד איזשהו "מוסר" כללי-אמריקני של סובלנות ו"חיוביות".
אהבתיאהבתי
כן, זה מתקיף מכל עבר. נושא האמת והשקר הכי מטריד אותי. ברשותך, אוסיף כאן חוויה מן השבוע הזה ממש. העליתי את זה בטוויטר ואני מקצר כאן. שם החוויה: ג'ונרטתי.
קורא יצירתי ומשועמם מדי של הבלוג שלי החליט להפוך את אחד הפוסטים שלי לפודקאסט באמצעות כלי בינה מלאכותית, NotebookLM. התוכנה הזדונית הזאת לקחה פוסט בעברית, והפכה אותו לשיחת פודקאסט בין גבר לאישה, באנגלית, שבמהלכה הם מסבירים זה לזה את מה שכתבתי. מודה שדי נדהמתי. הפוסט עצמו נקרא "מה זה כוח?", יש בו חלקים הגותיים-ספרותיים, יש רעיונות והקשרים תרבותיים, לא הכי פשוט. בקיצור, שני הפטפטנים הוירטואליים האלה פירקו והרכיבו אותו מחדש. הם נשמעים טבעי לחלוטין, כולל ה-yeah וכל קריאות הביניים השגורות בפודקאסטים, כולל שימוש מופרז בסופרלטיבים חלולים (that is a powerful idea, what really blew my mind was…), שנשאבו מן הסתם מקורפוס הפודקאסטים שעליו התאמנה התוכנה. מצד שני, התוכנה חתכה החוצה קטע שלם מן הפוסט (שבו אני מדבר על רומן מחריד של ארנון איתיאל) מסיבות השמורות איתה (לא הבינה? נעלבה?). אבל מה שמופיע שם בהחלט מעביר את הרעיונות העיקריים, בצורה נגישה. כמי שכתב את הטקסט לבי קצת נחמץ על הפישוט ורידוד הסגנון, אבל בכתיבה פוליטית לפחות יותר חשובה לי התפוצה לקהלים חדשים. אני עדיין חצוי.
זה הקישור לפודקאסט:
https://notebooklm.google.com/notebook/e4e8cec2-503d-4b22-b80e-789cdf38e23f/audio?pli=1
וזה הפוסט המקורי.
https://idanlandau.com/2024/01/17/%D7%9E%D7%94-%D7%96%D7%94-%D7%9B%D7%95%D7%97/
אהבתיאהבתי
שלם עידן. הבעיה מבחינתי היא שאי אפשר לדעת אם זה "מעביר את הרעיונות העיקריים", כמו במקרה שלך, או לא, בלי לבדוק. כלומר, אחרי 3-4 או עשרה שקרים וטעויות אני לא יכול לתת אמון בכלי הזה. רוב המידע שמסתובב אינו מפוקח (ודאי שלא על ידי יוצר הטקסט המקורי) ואין לקורא שום דרך לדעת אם הוא קיבל הבלים מוחלטים, תיאור מדויק, או משהו באמצע. אני מעדיף לדעת פחות ולא להיכנס לשדה המוקשים הזה שבו כל משפט יכול להיות ממוקם על סקלת האמת והשקר באופן בלתי ידוע. אין שום סיבה לחשוב שהספר של הררי לא ראה אור בבבל ועם עובד. זה נשמע לגמרי הגיוני.
אהבתיאהבתי
ברור. אני לא רואה את עצמי משתמש בזה בלי לבדוק את התוצרים. הרעיון הוא שיכול להיות שימוש מועיל לכלים האלה בדיוק באותן משימות מפרכות שבהן הזמן והאנרגיה שהיית משקיע ביצירה יש מאין של הטקסט עולים בהרבה על אלה שתשקיע בכתיבת ה-prompt הנכון ובהגהה של התוצר. ככל שהמאזן הפוך – אין סיבה להשתמש בזה.
אני חושב שאין סיבה בכלל להשתמש בזה בכל משימת כתיבה שהיא מעל לשיוף ניסוח, כי מעקשי הכתיבה הם חלק ממה ששומר על המוח חי ורענן. אבל זאת עמדת מיעוט.
אהבתיאהבתי
מאיר עיניים. תודה דרור
אהבתיאהבתי
מזדהה מאוד עם דבריך.
בתור סקפטית ידועה (עוד מאַוּרוֹפָּה) אני מטילה ספק רב בבינה המלאכותית, שתשובותיה עטופות בחַרטֶטֶת מתקדמת.
אהבתיאהבתי
תודה דרור. פגעת בול עם התובנה על תרבות הערצת השקרן, שהיא היבט של פולחן רחב יותר של הרס. אבל במקרה של בינה מלאכותית לא מדובר בשקרנות (למרות השקריות) משום שאין כל כוונה מאחורי הדברים, לא כוונת הטעיה ולא כוונת הנחייה. יש רק נוסח, רטוריקה, שפה שמוליכה שולל ויוצרת מראית אין של אמינות. נאמר "המתרגם פסוק כצורתו הרי זה בדאי", ל-AI הנוכחי אין 'כצורתו'. –נ'
אהבתיאהבתי
. הבעיה לא בבינה המלאכותית, אלא בגישה המגבילה את השימוש בה – במקום לראות בבינה המלאכותית כלי שמחליף אנשים, יש לראות בה אמצעי להעצמת היצירתיות האנושית ולחיבור בין רעיונות ותהליכים.
2. בינה מלאכותית היא מנוע אינטגרציה פלוס – היא לא רק מחפשת מידע כמו מנוע חיפוש רגיל, אלא מחברת בין נתונים, יוצרת הקשרים, ומאפשרת למשתמשים להעריך, לבקר וליצור תובנות חדשות.
3. התמקדות בנושאים נישתיים מגבילה את ההבנה של הפוטנציאל – בחינת הבינה המלאכותית דרך שאלות צרות ונישתיות מובילה לאי-דיוקים ולעיתים אף להמצאות חסרות בסיס, משום שהיא לא מציגה את התמונה הרחבה של היכולות והתרומה של הכלי.
4. ככל שנתייחס "אליה" ברצינות ולא נשים בפניה מכשולים, כך האלוגריתמים "שלה" ילמד, ויתפתח
אהבתיאהבתי
ההתנסות שלי עם הבינה המלאכותית קצת שונה. ביקשתי (באנגלית…) מידע על קתלין, אשתו של הסופר כריסטופר מורלי, והבינה הצהירה שאין לה מספיק מידע על האשה הזו. נוטה להסכים עם הגישה שהבינה המלאכותית עושה הקשרים חשובים, שאנחנו חסרים את רוחב היריעה והזמן לעשות. מצד שני, אני בהחלט חוששת מ"הגולם הקם על יוצרו" בכל הקשור למוסר ואתיקה אצל היצור החדש הזה.
אהבתיאהבתי