מכירים את זה שסיפור מסוים רודף אתכם? שהתחושה היא שאתם נתקלים בו בכל פינה? באוגוסט נתקלתי בסיפור מעניין על סטארט-אפ ישראלי בתחום החדשות, שאיכשהו חמק מתחת לרדאר. תכננתי לחזור אליו מתישהו – אבל אתם יודעים איך זה. אוגוסט, חגים, יותר מדי טיסות לחו״ל (סליחה גם לי זה נשמע פריבילגי מדי), והיו גם סיבות אובייקטיביות שנגעו לסיפור עצמו. בשבועיים האחרונים, שני סיפורים דומים אך שונים שלחו אותי בחזרה אל אותו נושא. אין ספק, זה כנראה אות משמיים; אז היום, אנחנו הולכים לדבר על מערכות חדשות ללא עיתונאים.
כבר כתבתי מתישהו על האפשרות להקים מערכות מאוד רזות בעזרת כלי בינה מלאכותית. נגיד כאן, בפרימיום קליקבייט #8 (היסטוריה עתיקה!):
״בעריכה חדשותית יש יסוד טכני מאוד: אנחנו מקבלים מידע מכמה ערוצים (כתבים בשטח, הודעות לעיתונות, הצהרות, סוכנויות ידיעות, תוצאות משחקים), בוחרים את פרטי המידע הרלוונטיים לכתבה, ואורזים אותם לטקסט אחד קוהרנטי (בשאיפה), בעל מבנה יחסית ידוע מראש. כל זה קורה בדרך כלל כחלק מעבודת דסק החדשות: בעיתונות דיגיטלית, הרבה מהדיווחים שאתם קוראים נכתבים על ידי עורכים ב׳פס ייצור׳ של ידיעות. למרות שהאנשים שאחראים על המשימה הזו תופסים אותה כאומנות לכל דבר – אני מודה, גם אני חוטא בזה לא פעם – כלל לא מופרך להעלות על הדעת אפשרות של אוטומציה כמעט מלאה של התהליך: מערכת אג׳נטית מבוססת AI שמחוברת לקבוצות הצ׳אט הפנימיות ולערוצי המידע האחרים, מקבלת משימות מראש הדסק ומפיקה כתבות מוכנות במהירות בלתי נתפסת״.
את הטור ההוא כתבתי בעקבות הניסוי של הנרי בלודג׳ט (מייסד Business Insider), שהקים לעצמו סוג של ״דסק״ של פרסונות מבוססות AI. אבל בלודג׳ט הוא עדיין עיתונאי, והמוצר שלו הוא מוצר עיתונאי. זו הייתה רק אריזה יפה לשימוש די סטנדרטי ב-AI כדי לייעל את תהליכי העבודה שלו. מה שמעלה את השאלה – איך ייראה מודל כזה של עבודה בגופים שכלל (או כמעט בכלל) לא מעסיקים עיתונאים? ולא, אני לא מדבר פה על תרחיש היפותטי: המהפכה הזו כבר כאן. או לפחות שם, בארצות הברית.
בסוף השבוע האזנתי לפרק האחרון של הפודקאסט המעולה Question Everything, שעוסק בדיוק בסיפור כזה (ותודה לקוראת המצטיינת שירה קדרי-עובדיה שהמליצה לי עליו): אתרים מקומיים שצצו משום מקום, נראים כמו אתרי חדשות אמיתיים, אורזים מחדש סיפורים שפורסמו באתרים אחרים (כולל קרדיט וקישור למקור, אגב – לפחות זה) ומפרסמים אותם תחת שמותיהם של כותבים שלא קיימים. זו לא טענה שנויה במחלוקת, במקרה הזה. מי שהקים את האתרים האלה (ובהמשך הוריד אותם מהרשת) הודה בכך בעצמו.
אין לי כוונה לגולל כאן את כל הפרשה: אני ממליץ להאזין, או לפחות לקרוא את הגרסה הטקסטואלית של העיתונאית קייט פיין שהשתתפה בעבודה על הפרק – בעיקר כי פרטי החקירה מרתקים. אסכם פה רק את השורה התחתונה: מי שעמד מאחורי האתרים הללו הוא דרו צ׳אפין, סוג של יזם טק שהסתבך בעבר והורשע בהונאת משקיעים.
אחת התעלומות המרכזיות בחקירת הפרשה הייתה המניע: צ׳אפין לא הרוויח מפרסומות באתרים האלה, וכל מקרה לא נראה שהם זכו לחשיפה משמעותית. נראה גם שלא היה פה ניסיון לדחוף אג׳נדה פוליטית/תאגידית כלשהי, כמו במקרים רבים שזכו לכינוי ״Pink Slime״ עוד הרבה לפני ששמענו על ChatGPT.
בסופו של דבר, מגלה התחקיר שהמטרה פה די צנועה – שימוש באותם אתרים ככלי לשיפור ה״מוניטין הווירטואלי״ של אנשים שהורשעו בעברות צווארון לבן, שירות שמספקת החברה של צ׳אפין, The Discoverability Company. ממש כמו שפעם השקיעו בקידום תכנים ״נקיים״ באמצעות פרקטיקות SEO ככלי לתיקון מוניטין, כאן הכוונה היא להשפיע לטובה על הנוכחות של אותם אנשים בסביבות צ׳אט מבוססות AI. צ׳אפין עצמו התייחס לזה כ״ניסוי״ – ואף יותר מכך, כניסוי שנכשל: לדבריו זה לא באמת עבד.
המקרה של צ׳אפין די מפוקפק, אבל ניכר במהלך הריאיון שגם הוא עצמו כנראה לא לגמרי הבין עד כמה הסיפור הזה מפוקפק. לפחות הוא נעשה בקנה מידה צנוע ועם השלכות מוגבלות מאוד, עד שלבסוף הוריד את האתרים. ולמעשה תמיד אפשר היה להקים ״חוות תוכן״ פסבדו-עיתונאיות שנועדו לשרת מטרה אחרת, בדרך כלל לא מאוד ראויה – זה לא מקרה חריג, במובן הזה. מה שהמקרה הזה חושף הוא בעיקר את הקלות שבה ניתן לעשות זאת בעידן ה-AI – מכל הבחינות: העלות של ייצור התוכן אפסית, העלות של הקמת האתרים אפסית. לא נדרשות פה יכולות עריכה, ולא נדרשים פה כישורים טכניים.
צ׳אפין הוא לא היחיד שהבין את זה. ממש באותו יום שבו עלה הפרק של Question Everything, התפרסם התחקיר המקיף הזה של Futurism על Brown Brothers Media. על פי הכתבה, האחים בראון מפעילים – ממקום מושבם בדרום מזרח אסיה – רשת עצומה של אתרים עתירי טראפיק, עם מסות של תכנים שנכתבו על ידי AI ונושאים את שמם של כותבים פיקטיביים:
"ככל שהצלחנו להבין, BBM צמצמה את עצמה לצוות שלדי של כתריסר עובדים בלבד, ובהם שלושת האחים המייסדים. כדי לתפעל אימפריה רחבת היקף עם צוות זעיר כל כך, עובדים לשעבר סיפרו לנו כי BBM משתמשת בבינה מלאכותית בשביל לייצר תוכן בהיקפים עצומים״.
הפרקטיקות של BBM, לדברי הכותבים, כוללות רכישה של אתרים קיימים בנושאים שונים (חלל, בישול, וולנס ומה לא), והפעלה של אותם כלי בינה מלאכותית במסווה של כותבים אמיתיים – עם ביוגרפיות ותמונות משלהם. התחקיר מראה כיצד לא פעם הטקסטים האישיים של אותם כותבים סותרים את הפרטים הביוגרפיים שהופיעו בכתבות אחרות, וחלק מהתמונות שלהם אינן אותנטיות. גם כאן, ממליץ לקרוא את התחקיר המלא – הוא ארוך, מפורט ולפעמים מטריד, כמו למשל בקטע הזה:
״אתר טכנולוגיה שבבעלות BBM, בשם Direct Message News, פרסם כתבות רבות תחת שמה של ׳רייצ׳ל ווהן׳, שבהן היא העניקה עצות אישיות בנושאים הקשורים לבריאות הנפש. לפי הביוגרפיה שלה באתר, ווהן היא פסיכולוגית מדבלין, בעלת ׳תואר שני בפסיכולוגיה חיובית יישומית מטריניטי קולג׳ דבלין׳, ׳מוסמכת להגשת עזרה ראשונה בתחום בריאות הנפש׳ ו׳חברה נלווית באגודה הפסיכולוגית הבריטית׳. עוד נכתב כי ווהן ׳מעבירה באופן קבוע סדנאות מבוססות מחקר לחיזוק החוסן עבור ארגונים איריים בתחום בריאות הנפש׳. אלא שאין כל זכר לפסיכולוגית פעילה בדבלין בשם הזה. כשפנינו לאגודה הפסיכולוגית הבריטית, היא אישרה שאין ברשותה כל תיעוד של חברה בשם רייצ׳ל ווהן. יתרה מכך, ׳פסיכולוגיה חיובית יישומית׳ אינה תוכנית לתואר שקיימת בטריניטי קולג׳ דבלין, כך מסרה לנו האוניברסיטה. חיפוש תמונה הפוך העלה גם שתמונת הפרופיל של ווהן היא למעשה תמונת אילוסטרציה״.
מה שמביא אותי לקשר הישראלי, או לסיפור שגרם לי לעסוק בתופעה הזו במקור. בתחילת אוגוסט הגעתי אל הכתבה הזו של אמילי הורן בבלוג שלה, Spin Class, שנשאה את הכותרת המבטיחה ״הסטארט-אפ הישראלי הקטנטן שעומד מאחורי מאות אתרי Pink Slime מבוססי AI״. הסיפור הזה, מתברר, התגלה כבר ביולי בכתבה הזו של Interlochen Public Radio:
"באביב האחרון, מערכת חדשות מקומית חדשה הופיעה כמעט בן לילה במחוז גרנד טראוורס. האתר, שנקרא Prism News, מפרסם בין שתיים לשש כתבות מקומיות ביום, תחת שמותיהם של כמעט 40 עיתונאים. הקאץ׳: אף אחד מהכתבים האלה אינו בן אדם. במקום להעסיק כתבים במובן המסורתי, האתר מעתיק ומשכתב באמצעות בינה מלאכותית תכנים שפורסמו בכלי תקשורת אחרים״.
בשני המקרים הקודמים, נראה שהיה לנו עסק עם מיזמים אופורטוניסטיים שהפעילו – ללא גילוי נאות – ״חוות תוכן מבוססות AI״ במטרה להרוויח מהן בטווח הקצר (פרסום במקרה של BBM, השפעה על מוניטין וירטואלי במקרה של צ׳אפין). זה לא ממש המקרה של Prism News (או Prism Media, במקומות אחרים), סטארט-אפ ישראלי רזה שהפעיל, לפי הפרסומים, עשרות ואולי מאות אתרים. כאן השימוש בבינה מלאכותית היה מוצהר לחלוטין: שוב נעשה שימוש בשמות של ״כתבים״ – אבל בתיאור שלהם מצוין מפורשות שמדובר בפרסונות AI. למעשה, הסלוגן של החברה לפי עמוד הלינקדאין שלה הוא ״עיתונות ללא מגבלות אנושיות״, ובתיאור נכתב כי אצלם ״הסיפורים שתקשורת המיינסטרים מתעלמת מהם סוף סוף זוכים לסיקור שהם ראויים לו״.
ככל הנראה זה לא בדיוק מה שקרה בפועל, או לא כל מה שקרה: על פי הפרסומים של הורן ו-IPR, באתרי החברה הופיעו בין היתר סיפורים שנשלפו מאתרים אחרים (גופי עיתונות אמיתיים) ונארזו מחדש, לפעמים עם פרטים שגויים לכאורה, או תמונות מג׳ונרטות. כשהורן פנתה אל Prism News, היא קיבלה תגובה מעובד החברה דניאל קורן:
״נראה שכמה מהשאלות שלך יוצאות מנקודת הנחה שאנחנו מעתיקים כתבות ומפרסמים אותן מחדש. לא כך המערכת שלנו עובדת. אנחנו משתמשים בכלי חיפוש מבוססי AI שיש לנו רישיון להשתמש בהם, לצד מידע הזמין לציבור, כדי לאסוף מידע עובדתי על סיפורים ממספר מקורות עצמאיים. לאחר מכן המערכת שלנו משלבת ומעבדת את העובדות האלה לכדי כתבה חדשה לחלוטין, שנכתבת מאפס, ולעיתים קרובות כוללת הקשר נוסף, מבנה שונה וזווית מערכתית אחרת״.
הורן אולי נסחפת קצת בסיקור שלה (בעיקר בחלק השני, כשהיא מנסה לקשור את המיזם לפיטר ת׳יל באופן מאוד ספקולטיבי), וככל הנראה מדובר במיזם פחות ציני מהמקרים הקודמים. רווח מהיר, בסופו של דבר, לא ממש היה פה (לא נראה ששולב פרסום באתרים). אבל גם אם אנחנו מקבלים את התרחיש הסלחני הזה – זו סיטואציה בעייתית בעיניי: נראה שיש לנו כאן (עוד) מקרה של יזמי טק שמשוכנעים שהם מסוגלים לפתור את הבעיות של תעשיית העיתונות – בלי עיתונאים.
כך או כך, כל זה הסתיים באמצע אוגוסט. האתרים ירדו מהרשת, ובמקומם הופיעה הודעה חדשה: ״לעת עתה סיימנו את הניסוי הראשוני שלנו. תודה רבה לכל מי שהשתתפו וסיפקו לנו פידבק. כל הפעילות הושהתה לעתיד הנראה לעין״.
שניים מהניסויים, אם כן, הסתיימו בינתיים. ואם לשפוט לפי תגובות הגולשים שמצוטטות בכתבה על BBM והעובדה שגם הם הסירו כתבות רבות לאחר שהסיפור התגלה (שלא לדבר על הירידה הכללית בערוצי ההפצה שעליהם האתרים נשענים), לא בטוח שמדובר באיום אמיתי על גופי תקשורת ותיקים, כאלה שמעסיקים כתבים בני תמותה. אבל זו לא באמת צפירת הרגעה: אם כל כך קל להקים אתרי חדשות ופסי ייצור ממוכנים של תוכן – כמה זמן יעבור עד שיגיע המיזם הבא? וזה שאחריו? מתי הם באמת יצליחו לגזול את מעט הטראפיק שעוד מסתובב ב-open web?
אני לא בטוח שיש לי פתרון לאתגר הזה. לכאורה, אפשר אולי לכוון עיתונאים לפרסם את אותם תכנים שאי אפשר לייצר באמצעות מכונות. תחקירים, עבודת שטח, חיבור אנושי. אבל לפחות בחלק מהמקרים שהוזכרו פה, הגישה הזו לא באמת עזרה. כן, כתב יכול לעשות עבודת שטח מרשימה, לדבר עם מקורות, להפעיל שיקול דעת עיתונאי. אבל האם זה מייצר בידול מספיק משמעותי מידיעה דומה, אולי דלה יותר, שמתבססת על מידע זמין מהרשת? בכמה מהסיפורים שהוא מפרסם, הערך המוסף האנושי באמת יהיה סוג של moat?
והבעיה הגדולה יותר כאן, זו שנוח יותר להתעלם ממנה, היא שבתעשיית החדשות המצטמצמת הבידול הזה בלאו הכי הולך ונשחק. ביותר ויותר אתרי חדשות, שמעסיקים פחות ופחות כוח אדם, הכתבות הופכות דומות למה שמספקים פסי הייצור האלה. כן, גם כשיש להם עורכים וכותבים אנושיים. או כמו שכתבה לי אחרי הטור האחרון עיתונאית שביקשה להישאר בעילום שם, בתגובה לציטוט של אותו עיתונאי שאצלו ״60%-80% מהכתבות הן AI מלא״:
״הדבר שממנו אני הכי חוששת בהקשר של AI בשירות העיתונות מתחבר לדברים של מעין רודה על היעדרה של שדרת העריכה. מאוד ייתכן שהעיתונאי שציטטת צודק, ובמבחן התוצאה אין בעיה להשתמש בכלי כזה או אחר לטובת כתיבה על דו״ח משעמם (אבל כן אפשר לשאול: אם הדו״ח משעמם, ואם ה-AI ממילא עושה את זה טוב עבור העיתונאי כמו עבור כל משתמש אחר, למה מקומו של הדו״ח הזה באתר חדשות? אולי האתר צריך להתמקד בתוכן שהקוראים שלו לא יכולים לייצר/לאתר בעצמם?). מה שמטריד אותי כאן הוא שכדי להבחין בין דו״ח שאפשר לסכם ב-AI לבין חומר גלם שזקוק למשהו אחר (הצלבת מקורות, מסגור שונה) צריך להיות גם מספיק מנוסה וגם מספיק מחויב לדבר החמקמק הזה שנקרא עיתונות טובה. וכרגע, כמו שהמערכות נראות, פשוט אין מספיק עורכים כאלה״.
הפודקאסט שבו האירוניה מתה: מנכ״לית הגרדיאן התראיינה ב-The Rebooting Show והסבירה את ההצלחה שלהם בארצות הברית בכך ש״יש משיכה אמיתית לאפשרות לספר להם את הסיפור מנקודת מבט לא-אמריקאית – כזו שאינה נקודת המבט האימפריאלית״. אבל ברצינות, ריאיון מעניין מאוד ושווה האזנה (אפל, ספוטיפיי).
עוד פודקאסט מעניין, על דברים שבאמת רק עיתונאים בני תמותה יכולים לעשות: העיתונאי ת׳יאו בייקר הצליח עוד בתקופת לימודיו בסטנפורד לחשוף שם שורה של כשלים, עוולות מוסריות ותופעות מטרידות, ואפילו הוביל לכך שנשיא האוניברסיטה היוקרתית נאלץ להתפטר. הריאיון הזה שלו ב-The Gray Area הוא באמת מסמך נדיר (אפל, ספוטיפיי).
ושיהיה גם מה לקרוא, ולא רק מה לשמוע: טקסט יפה של דייב בארי על הקריירה התובענית של אשתו כעיתונאית ספורט – ואיך כל זה נגמר ברגע אחד, כשהתקן שלה בוטל.
אוקי, זה לא ממש לוח דרושים פה אבל משרה כזאת באמת לא רואים כל יום: אתר הטכנולוגיה המצליח The Information מחפש עיתונאי (עברית? יתרון!) שיקים את הזרוע המקומית שלהם בתל אביב. כאן ניגשים.