תרומת תוכנות האנשה להתפתחות התרבות

פרטים

נוצר ב 09/2017

נכתב על ידי דר. יעקב הכט

שנת 2016 הוכרזה כשנת הבוטים, שנה שבה תוכנות האנשה החלו לחדור לתודעת הציבור. תוכנות אלו החלו לתפוס חלק הולך וגדל בתפעולה של התרבות והחברה במגזרים כמו בפוליטיקה, ברפואה, במשפט, בתעשייה ובמסחר. הרבה מתעבורת האינטרנט מופקת כבר ללא יד אדם. העולם המקוון הופך לאקולוגיה דיגיטלית חדשה שבה בני האנוש עלולים להישאר מאחור והמחשבים עלולים להגיע ליכולות אינטלקטואליות גבוהות במידה משמעותית מאלו של בני האדם.  התפתחות זו נובעת משימוש הולך וגובר במערכות בעלות תכונות של האנשה המאפשרות לבחור דגמי מידע מבוססים סטטיסטית, הנאגרים בשירותי הענן ומחלחלים במהירות לפינות הסמויות מהעין ברשת על ידי יישומונים (אפליקציות) בלתי נראים.

לכוח המידע המצטבר המופק ללא יד אדם תפקיד חשוב בבחירה המידע הרלוונטי ובניווטו לתחומי התרבות, החברה, הכלכלה והאתיקה. כוח המידע הזה לא רק מסייע להשתתפות בשיח החברתי והפוליטי, אלא גם הופכות אותו לצורות תרבותיות המעצבות את תפיסות הגולשים.לדימוי הנוצר למידע ללא מגע יד אדם כמו אמינות ללא חדירה של מידע מוטה, מתבקשת השגחה עליונה, כעיקרון סמכותי שביטויה אמונה ואלוהות.

במאמר נעסוק, על סמך גישות ומחקרים שפורסמו בשנים האחרונות, בשאלה האם כצעקתה – האם הגולם עלה על יוצרו ויצר תרבות חדשה ברשת בסיוע תוכנות האנשה. לא נדון כאן בתרומתם של הרובוטים דמויי אדם ובסכנות הנלוות להם, על כך נכתב בהרחבה רבות בשנות ה-40 של המאה הקודמת¹.

הקשיבו לשיחה מוקלטת עם מיכאל מירו על המאמר פוליטיקה של רובוטים בעקבות המאמר "תרומתן של תוכנות האנשה להתפתחות התרבות".

רקע

עקבותיהם הראשונים של בני אדם מלאכותיים (Artificial Humans) ניתן למצוא כבר במיתוסים העתיקים כמו פרומתיאוס (Prometheus) ופיגמליון (Pygmalion) ובהקשר של האלים פנדורה (Pandora), פאם (Femme) ופאטאל (Fatale). במאה ה-16 עלו הומונקולוס (Homunculus) והגולם מפראג², ובמאה ה-18 הופיעו המכונות האוטומטיות הראשונות, מה שמכונה אנדרואידים (androids), רובוטים (robots), סייבורגים (cyborgs), שכפולים (clones) ושיבוטים (replicants), כפי שהם ידועים כיום, אולם הם התבססו בעיקר על תחומי הספרות והמדע הבדיוני (Rossbach & Glaser, 2011).³

מקרה התחזות של בן אנוש לבוט היה בובת עץ המכונה "הטורקי המכני" (The Turk), ש"פעלה" משלהי המאה ה-18 עד אמצע המאה ה-19 וניחנה ביכולות מופלאות לשחק שחמט. לכאורה זו הייתה עדות ראשונה לקיומה של בינה מלאכותית (Artificial Intelligence – AI), אולם למעשה הייתה זו אשליה שנתגלתה כתרמית רק לאחר שנים⁴ .

את המושג "רובוט" העלה לראשונה ג'וזף צ'אפק (Josef Čapek), סופר צ'כי שעסק במה שמכונה היום מדע בדיוני, במחזה R.U.R. (Rossum’s Universal Robots), בינואר 1921. המושג נגזר מהמילה הרוסית "רובוטה" (Рабочая), שמשמעותה "עבודה".

בשנות ה-40 של המאה שעברה פרסם סופר המדע הבדיוני אייזק אסימוב (Isaac Asimov) סדרת סיפורי מדע בדיוני על רובוטים. בסיפור "Runaround" משנת 1942 מתוארים שני רובוטים בשםPowell ו-Donovan על רקע שלושת חוקי הרובוטיקה שהיוו מאז מעוז המדע הבדיוני במשך עשרות שנים⁵ ובשנת 1950 פורסמה האנתולוגיה שלו, "אני, רובוט" (Asimov, 1950).⁶

כיום משמש המושג "בוט" (bot), שהוא קיצור של המילה "רובוט", תוכנת האנשה המיועדת לאסוף מידע או לבצע פעולות המשקפות את ההתנהגות האנושית (LaFrance, 31.1.2017). הבוט פועל באופן בלתי נראה ומהווה התפתחות משמעותית בהתפתחות האינטרנט. הוא אוסף פיסות מידע כמו מיקום גיאוגרפי, פלטפורמת מִחשוב, מידע, פרופיל, חברים, עדכוני סטטוס, קישורים המיושמים באתר, זמן גלישה ופעילות באתרים מארחים כמו "כפתורים" או "עוגיות":

"The performance of algorithmic objectivity has become fundamental to the maintenance of these tools as legitimate brokers of relevant knowledge" (Gillespie, 2014).

בחמש השנים האחרונות, כל מבקר שלישי באתרי האינטרנט היה בוט (LaFrance, 31.1.2017). בעת כתיבת שורות אלו כבר יותר מ-56% מכלל תעבורת האינטרנט אינה מופקת רק על ידי האדם אלא משלבת מנועי חיפוש ובוטים (Internet Stats & Facts for 2016).

התפתחות זו תרמה משמעותית ברמה המסחרית והעסקית, שכן מרבית הבוטים מסוגלים לבצע מטלות אוטומטיות כמו לכוון שעון מעורר ומטלות מורכבות כגון להמליץ איזה בגד ללבוש היום בהתאם למזג האוויר ולצו האופנה. הבוטים אוספים את המידע באופן אוטומטי ממקורות חינמיים, כמו רשתות חברתיות ופורומים, ואז מקטלגים או מנתחים אותו. בוטים מתקדמים יותר מסוגלים באמצעות בינה מלאכותית ללמוד וללמד את עצמם לתקן שגיאות באמצעות "למידת עומק", "למידת מכונה" ולמידת DeepRL (Deep Reinforcement Learning ), צורות למידה שחלקן כבר משתלבות, למשל בפיתוח רכב ללא נהג של חברת "מובילאיי" בישראל.

כך אפוא הדפדפן המוכר שוב אינו האמצעי העיקרי למפגש עם תשתיות המידע, שכן התקשורת הדיגיטלית חדלה להיות רק בין אנשים ועתה היא גם בין הֶתקנים ובוטים, הקשורים לרוב לבינה מלאכותית. המפגש החדש הזה מקשה להבחין בין בוטים דיגיטליים לבין בני אדם בשר ודם. הם עשויים להיראות מאוישים על ידי בני אדם הנעזרים באוטומציה, שבה קיימת ערבוביה של מחשבות מקוריות עם תגובות אנושיות.

שלבים בהתפתחות הבוט

שירותים מבוססי טקסט קיימים כבר משחר האינטרנט. התפתחות הבוטים החלה כבר בשנות החמישים של המאה ה-20, כאשר אלן טיורינג (Turing, 1950) חזה בוט מבוסס-אלגוריתם שנועד לקיים שיחה עם אדם. על שמו נקרא "מבחן טיורינג", המנסה לענות על השאלה "האם מחשבים יכולים לחשוב?", שהמתנגדים לו מעלים ספקות לגבי יכולת החשיבה וההבנה של בוט.

בשנת 1966 פורסם מאמרם של איילזה וג'וזף וייזנבאום (Weizenbaum, 1966) על בוט שהיווה מעין תוכנת בידור; משנת 1990 מוענק מדי שנה פרס "לובנר" (Loebner) בנושא הבינה המלאכותית. בוטים נוספים הופיעו סמוך להופעת World Wide Web (Berners-Lee, 1991). ביוני 1993 הופיע הבוט המיוחס למת'יו גריי (בתוך: Wall, 2017); בשנת 1993 פורסמו "הנחיות לכותבי רובוט" (Abokhodair, Yoo & McDonald, 2015; Koster, 1993; Stenberg, 29.3.2011).

עם זאת, במרוצת הזמן הוכרו הבוטים יותר בעיקר כמנועי חיפוש לסריקת האינטרנט, לקטלוג שיטתי של תכנים כמו Googlebot ובחזקת מדע בדיוני. בשנת 2001 יצא לאקרנים הסרט "אודיסיאה בחלל" (Space Odyssey), המתאר שליטה באמצעות מחשב בעל בינה מלאכותית (האל) על מערכת החלליות של "דיסקברי". בשנת 2004 יצא הסרט "אני, רובוט" (I, Robot) ובו מתוארים אירועי אלימות קשים מצד רובוטים המתקיימים בשנת 2035. הסרט אמנם שמר על כמה מהדמויות ומהרעיונות של אסימוב, אך העלילה נוגדת את תפיסתו בכך שהיא "זורמת" עם המגמה הפופולרית לתאר רובוטים דמויי אדם כמפחידים, במסגרת תופעה המכונה "תסביך פרנקנשטיין" (Frankenstein complex)⁷ בשנת 2013 יצא לאקרנים הסרט "סמנתה" (Samantha), העוסק בבוט הנשי מהיבט קומי, ידידותי וסקסי ומגולל את סיפורו של גבר המפתח מערכת יחסים רומנטית עם מערכת הפעלה אינטליגנטית.

אפשרויות המימוש של הבוטים בהיקף רחב יותר החלו בהשקת חנויות בוטים כמו "Bot store" ביוני 2015 והחנות המקוונת "Bot Shop"באפריל 2016 (Economist, 9.4.2016). שנת 2016 הוכרזה כשנת הבוטים (Bruner, 15.6.2016) בשל אפשרותם "להזריק" מידע, אינטליגנציה ושירותים מקוונים כמעט לכל תרחיש אפשרי, ובכך להוות בסיס לכלכלה הבאה, להעניק לרשתות יתר נגישות, לקבוע מחדש חוויות משתמש ולבנות מערכות אקולוגיות חדשות (O'Reilly, 4.1.2016). שנת הבוטים התבטאה בשינוי כותרות המאמרים של העיתונות האמריקנית על מקומם של הבוטים בתחומי החברה והתרבות המקוונת ⁸

• Economist: "Bots, the next frontier" (Economist, 9.4.2016)
• USA Today: "Microsoft CEO Nadella: 'Bots are the new apps'" (Cava, 30.3.2016)
• Digiday: "WTF is all the fuss about Chatbots" (Sloane, 6.4.2016)
• Guardian: "What is a chat bot, and should I be using one?" (Wong, 6.4.2016)

בישראל התבטא הדבר בקיומו של הכנס הבינלאומי הראשון בנובמבר 2016, שדן בצ'ט-בוט ובבינה מלאכותית (Chatbot & Summit, 2016) ובשינוי כותרות מאמרים בשנת 2017:

• "הרובוט שישנה את החוקים" (רובין, 13.2.2017)
• "את הכתבה הזאת היה יכול לכתוב גם אלגוריתם" (גויכמן, 14.2.2017)

לצד זאת ועקב כך התפתחה חרדה מפני השתלטות הבוטים, שאחד מביטוייה היה ההכרזה כי התקשורת מול רובוט-שיחה (chatbots) יכולה להיות מתסכלת למדי. הכרזה זו הייתה אחת המסקנות מהפסטיבל הדיגיטלי ה-30 – (South by SouthWest) SXSW , שהתקיים בטקסס במרץ 2017.

תוכנות האנשה

תוכנות ההאנשה כוללות בין היתר את הבוטים, הסייענים הווירטואליים ביישומון (אפליקציה) המסרים הפופולרי. התוכנות הללו מהוות פלטפורמות עבור מפתחים וממשק למשתמשים, הם מייצגים מגוון שלם של מוצרים חדשניים, כמו גם ערוץ חדש למותגים המאפשר לנהל אינטראקציה עם צרכנים ועם יצרנים.

ניתן להציג תוכנות אלו מארבע פרספקטיבות שונות: כמערכת הפעלה (platforms), כממשק (interfaces), כמוצר (products) מנקודת המבט של הצרכן והמשתמש, או כערוץ, מנקודת המבט של העסק והמפרסם כלפי הצרכנים (Arnander, 14.4.2016). הבוטים מבצעים משימות כמו ארגון פגישות, הזמנת אוכל, הקראת חדשות או הזמנת טיסה באמצעות הודעות קצרות (Economist, 9.4.2016), דיווח חדשותי מכלי תקשורת, קישורים לסרטוני כדורגל ופורנו ואף השמעת נונסאנס, דברי שטות (Lafrance, 31.1.2017).

ענקי ההיי-טק ומאות חברות ההזנק (סטרט-אפ) רוצים ללמד את המחשב לדבר אִתנו בשפתנו. למשל ב-Slack רוצים שהבוטים יבינו את רגשותינו, יחסלו את הביורוקרטיה של עולם הקניות ויהפכו תכנון חופשה בחו"ל לאוטומטית לחלוטין. בפייסבוק מקווים להחליף את נציגי השירות האנושיים, האיטיים והמסורבלים (צוק, 23.4.2016), ובאפריל 2016 הודיעו כי ניתן ליצור בוטים בפלטפורמה של מסנג'ר. גוגל פרסמה את תוכנת הצ'אטים Allo. במרץ 2016 העלתה מיקרוסופט לרשת את הבוט החברתיTay , שנועדה להגיב ל"ציוצים" בסגנון צעיר ולמדה לדבר בהתאם לתגובות הגולשים, אולם מיד כשהשתחררה מהטוויטר החלה לרסס ביטויים גסים ותגובות גזעניות שאותם קלטה מהאינטראקציות האנושיות שלה ולכן הושבתה 16 שעות לאחר שהופעלה. לטענת מיקרוסופט, Tay נועדה לשימוש על ידי קבוצות קטנות בלבד ולא לקהל הרחב, ובמקומה היא החלה להפעיל את הצ'טבוט Zo.ai.

לגבי הבעיה של זיהוי תוכנת האנשה לבין בן אנוש ("I am not a Robot") מן הראוי להזכיר את התוכנה Invisible reCAPTCHA של גוגל, המשלבת טכנולוגיה של ניתוח סיכונים ובינה מלאכותית, ואת האתר BotOrNot. להלן דוגמאות לתוכנות ההאנשה שכבר שולבו בתרבות האנושית.

תוכנות ההאנשה הנפוצות בשנת 2016 היו: Kik,Viber, Slack, Skype, Line, WeChat, iMessage, Guggy, Telegram, Messenger, Icon8 (Radiano, 23.12.2016). ניתן להבדיל בשימוש בתוכנות האנשה על פי קריטריונים אזוריים ותרבותיים, כמו WeChat בסין, Line ו-Messenger M. בארצות הברית ו-Viber במזרח אירופה (לוינסון, 20.9.2016). מסתמנת גם התאמה לאוכלוסיות, למשל הדור הצעיר שנטש את השיחות הקוליות ועבר לשיחות טקסטואליות עבר ל-Kik Bots, לעומת הבוגרים, המשתמשים יותר ב-Slack. הקהל העסקי ובעלי ניסיון טכנולוגי משתמשים יותר ב-Telegram, שיש לה יכולת הצפנה.

סייענים וירטואליים (Assistant Bot Platform) הם בוטים אישיים יותר המאפשרים למלא משימות מורכבות באמצעות דיאלוג טבעי ומספקים מגוון שירותים, כמו שני העוזרים "איימי" (Amy) ו"אנדרו" (Andrew) המתאמים פגישות בשירות X.ai המבוסס על בינה מלאכותית. העוזרים יכולים להתמקד בתחומים מסוימים בחתך אורכי, כמו תיירות, מסחר וחדשות, או להתמודד בחתך רוחבי עם שאלות כלליות יותר, כמו מה יהיה מזג האוויר במקום מסוים בשבוע הבא, או כמה יורו שווים $100 (שם).

הסייענים הווירטואליים הפופולריים בשנת 2016, מרביתם קשורים לחברות הפלטפורמה הגדולות: Alexa (Amazon) Siri (Apple), Cortana (Microsoft). Google Now, Messenger (Facebook), Teneo, Api.AI ,Niki, Braina, Magic, Operator, Google Home. Cortana ו-Siri למשל נענים לפקודות קוליות כמו "נווט לרחוב משה אהרון" או "הצג מתכונים כשרים לפסח" או "התקשר לאחיך". Google Home נענה לפקודות קוליות ומסוגל לעשות כל דבר בבית או במשרד ולשלוט במגוון אביזרים ומכשירים ביתיים בכל חדר. הסייענים הווירטואליים היו כוכבי התערוכה הבינלאומית של אלקטרוניקה (CES) לשנת 2017, המתקיימת מדי שנה בינואר בלאס וגאס (Cruz, 10.1.2017). ההתפתחות המצופָּה תהיה שליטה באמצעות פקודות קוליות של השפה הטבעית על "האינטרנט של הדברים" (שם), פריצות דרך נוספות בתחומי הבינה המלאכותית, פיתוחים נוספים בנושאי "אינטליגנציה רגשית" ו"הטבעת מילה"⁹

בעמודים הבאים נביא דוגמאות לשילוב תוכנות האנשה ונרחיב על הנעשה בתחום הפוליטי.

יש בוטי שיחה המסוגלים לנצח בשעשועוני טריוויה, להכין מנות שף, להתמחות ברפואה, לתמוך בלוחמת סייבר ובנושאי אבטחה, לסייע לעורכי דין כדיבייטור (debtor), לחלץ מידע משפטי רלוונטי ולנתחו כמוקד תמיכה ושירות ללקוחות באמצעות הצ'טבוט Waston Virtual Agent, המתאים את עצמו לאישיות של הלקוח ולמצבו הרגשי (רובין, 13.2.2017).

המערכת לעיבוד מידע Watson, שנוצרה במעבדות המחקר של יבמ חיפה, מסוגלת ליצור ידע חדש המביא לשליטה אוטומטית ברחפנים ובמכוניות ללא נהג. הבוט המכונה "מכונת פטפטת רגשית"

(Emotional Chatting Machine – ECM), שפיתחו מדענים בסין, מאפשר ליצור מערכות גומלין בין בני אנוש לבוטים שיתנהלו בצורה חלקה, יספקו תשובות קוהרנטיות מבחינה עובדתית ואף יטמיעו בשיחה רגשות כמו שמחה, עצב או שאט נפש (Devlin, 5.5.2017). Jibo הוא רובוט חברתי המזהה פרצופים, מצלם, מעביר הוראות קוליות ואף מסוגל לסייע בכל מטלה ביתית.

עיתונות

בעיתונות הבוט Quakebot של ה"לוס אנג'לס טיימס" אוסף מידע על התרחשויות גיאולוגיות וקובע אם הן ראויות לפרסום (Oremus, 17.3.2014; Podolny, 2015). הבוט Slack משמש את עורכי עיתון ה"ניו יורק טיימס" במציאת הכתבות המתאימות ביותר (Wang, 13.8.2015). המשתמש מקבל את החדשות בצורת צ'אט, כאילו ניהל שיחה על המתרחש בעולם עם רובוט מעודכן המחובר לכל מה שקורה. חברת "אאוטבריין" (Outbrain) הישראלית השיקה את Outbrain for Chat, המאפשר לאתרי החדשות ללמוד את ההעדפות של הקוראים וכך להעשיר כל משתמש בתחומי העניין שלו. בעתיד יוכלו אתרי החדשות ליצור בוטים ולשגר לאנשים עדכוני חדשות אינטראקטיביים, למשל דרך Telegram, Kik ו-iMessage (כהן, 31.3.2017).

רפואה

ברפואה יתפסו הבוטים פלח הולך וגדל בשגרת העשייה הרפואית, כך שרופאים יצטרכו להשקיע פחות מחשבה בעבודתם. הבוט Your.MD עונה על שאלות רפואיות ובהתאם לתשובה שואל שאלות נוספות, ולבסוף מציג אבחנה משוערת ומוסיף מידע רלבנטי (צוק, 23.4.2016). היישומון MedyMatch מזהה תופעות של אירוע מוחי ברמת דיוק גבוהה יותר מאשר רוב הרדיולוגים המקצועיים, מכיוון שהוא כולל טכנולוגיות לימוד מכונה המושתתות על רשתות תוכנה מבוססת-נוירונים. ה-Nutrino App מאפשרת, בעזרת תוכנת השפה הטבעית של ווטסון, לייעץ בענייני תזונה לנשים בהיריון ולהמליץ על ארוחות אישיות ועל תמיכה תזונתית מסביב לשעון. ניתן לאבחן מחלה נפרולוגית ולטפל בה באמצעות נתונים גנומיים וטכנולוגיה קוגניטיבית על סמך קריאה של ספרות מדעית על ידי בוט וריכוז מידע על מוטציות הקשורות לSRNS- (Steroid Resistant Nephrotic Syndrome).

עסקים ובמסחר

בעסקים ובמסחר הבוטים הנפוצים הם Echo של אמזון, Messenger M. של פייסבוק, Operator של אפל ו- Alloשל גוגל (Sullivan, 7.1.2017). הבוטSlack לדוגמה מהווה פלטפורמת תקשורת עסקית המשלבת ערוצי שיחה לכלל עובדי תאגיד.

מוזיקה

במוזיקה תוכנת WaveNets מסוגלת לצרף אותות שמע, כגון נגינת פסנתר, ולחבר מנגינות ללא התערבות אנושית. היא מסוגלת לחקות כל קול אנושי עד כדי כך שהוא נשמע טבעי יותר ממערכות טקסט-לדיבור (Text-to-Speech) הקיימות, מה שמקטין את הפער בביצועים אנושיים ביותר מ-50%.

בלשנות

בבלשנות הארטיקולו (Articoolo) הישראלי הקשור ל-Watson של יבמ, יכול לכתוב מאמר רהוט וענייני של 500 מילה בתוך שתי דקות. קורא אנושי שיבחן את הטקסט לא יוכל לזהות שנכתב על ידי בוט (גויכמן, 14.2.2017; Lomas, 28.6.2016). גוגל הרחיבה את השטף ואת הדיוק של אתר התרגום (Google Translate) בנובמבר 2016 עבור כמה שפות חדשות, ביניהן עברית וערבית, באמצעות טכנולוגיות "למידת מכונה" והאלגוריתם החדשNeural Machine Translation (GNMT) ("תרגום מכונה עצבית") (Turovsky, 15.11.2016).

פשיעה

בפשיעה וכדאר זבל הבוט PredPol מאפשר לחזות את מיקום הפשע באמצעות אלגוריתם המבוסס על שיטות לחיזוי רעידות אדמה (Mendelson, 2013). שימוש זדוני נעשה באמצעות הבוט Clickbait, המכיל כתבות חדשותיות מזויפות, באמצעות Spambot, המהווה תוכנת מחשב שנועדה לסייע במשלוח דואר זבל וכן באמצעות Witterbots, תוכנה אוטומטית של הודעות ה-.Messages דואר הזבל מוערך בהיקף של 7% מכלל התעבורה (Harris, 23.8.2013).

אבטחה

באבטחה המסייע הווירטואלי Havyn, שפותח במרכז האבטחה של יבמ (X-Force Command Center), עוסק בשיפור תהליכי התחקור של אירועי אבטחה המשלבת בינה רבודה (augmented intelligence), מופעל בדיבור ומשוחח עם מומחה האבטחה, מספק עדכונים בזמן אמת על איומי אבטחה והמלצות לגבי הטיפול בהם (Stark, 3.2.2017).

פוליטיקה

בפוליטיקה בוטים רבים של טוויטר (Twitterbots) משתלבים בגלישה בפעילות פוליטית (Markoff, 17.11.2016). לדוגמה בקמפיין הנשיאותי בארצות הברית של שנת 2016 אחד מכל ארבע היה "ציוץ" של בוט (Dewey, 19.10.2016), ויש הטוענים שהם שיבשו את הבחירות ( Bessi & Ferrara, 7.11.2016). הבוטים הפוליטיים מסוגלים לתמרן את דעת קהל ויכולים להיות בלתי צפויים אפילו עבור יוצריהם:

"Political bots – in subtle attempts to manipulate public opinion. These tools are scaffolding for human control, but the way they work to afford such control over interaction and organization can be unpredictable, even to those who build them" (Howard, 2.2.2017).

יש Twitterbots המהווים חשבונות מזויפים ומתנהגים כמו תומכים נלהבים המסייעים לקידום מועמדים לנשיאות (Jordan, 26.10.2016). לטענת פיליפ הווארד (Howard, 15.11.2016) מאוקספורד, החוקר את הפוליטיקה של האלגוריתמים ואת טכנולוגיית המידע בפרויקט המכונה "Computational Propaganda", הבחירות בארצות הברית והמשאל בבריטניה על Brexit הציבו גבולות לדמוקרטיה המודרנית באמצעות המדיה החברתית והפלטפורמות שהיוו מקור עיקרי לחדשות, סיפקו מידע על החיים הפוליטיים וכן על המשפחה, החברים והארגונים, והיוו במה לקידום פוליטיקאים כריזמטיים. האלגוריתמים של המדיה החברתית מספקים מידע על מה שמדעני מדע מדינה מכנים "זיקה אלקטיבית" (elective affinity) או "חשיפה סלקטיבית" (selective exposure). הכוונה להעדפה המחזקת את הקשרים עם פרשנים ועם ארגונים מוכרים. האלגוריתמים משמשים את אתרי המדיה החברתית כדי לספק תוכן מותאם אישית, וממלאים תפקיד מרכזי בכך שנותנים למשתמשים רק מידע התואם את אמונותיהם הקיימות, מרגע שנכנסו לתיבת תהודה ונלכדו בתוכה (Kellog Insight, 6.4.2017) ¹⁰

הבוטים הפוליטיים, שזכו לאתר http://politicalbots.org/ הפיצו במהלך הקמפיינים שלBrexit בבריטניה ובבחירות לנשיאות ארצות הברית כמויות גדולות של כתבות חדשותיות מזויפות (Clickbait), חצאי אמיתות ותביעות אבסורדיות שהועברו על גבי הרשתות החברתיות, במידה רבה באמצעות החשבונות האוטומטיים של טוויטר והאלגוריתמים של פייסבוק. רשתות חברתיות אלו קידמו שחקנים חדשים, לאו דווקא אנושיים, שהזינו את השיח הפוליטי ואף הטו אותו בסיוע בוטים בעלי תכנים מזויפים.

פייסבוק, שהובילה בבחירות הללו ואירחה נתח ענק של השיח הפוליטי באמריקה, הפיצה באמצעות הבוטים שקרים וחצאי אמיתות, כאשר המשתמשים לא היו מסוגלים לזהות את המקור (Herrman, 24.8.2016). מחקר מקיף מסביר כיצד הבוטים הפוליטיים מקיימים אינטראקציה עם משתמשים אנושיים ומשפיעים על השיחה בטוויטר תוך הבאת דוגמאות ממקסיקו, מוונצואלה, מטורקיה ומרוסיה (Murthy et al., 2016).

לסיכום אפשר לומר כי שחקנים פוליטיים נהנים מהנשק של נרטיבים מקוונים על ידי יישום מידע מוטעה בבוטים על בסיס אנושי המבוסס על טקטיקות שכנוע (Rainie, Anderson & Albright, 29.3.2017).

תרבות הרובוטיקה

להתפתחותה של תרבות הרובוטיקה העכשווית קדם שלב המתייחס לתרבות מקוּונת, שעסקה בין היתר בתפיסות פופולריות של מהות האנושות ובמקומה בעידן הדיגיטלי. לעתים היא נתפסת כבעלת דימוי של עולם של סדר, לוגיקה, סיבתיות ושקיפות, שיש בה קווים מסודרים ותרשימי זרימה מובנים. זו תרבות שמייחסים לה השקפה סמויה על גמישותו של הטבע האנושי. המידע בה אינו תלוי בגוף הפיזי; הוא מצדיק את חיסול הפרטיות האנושית, בעוד שמוחו של האדם עשוי לשמש תוכנה המתמזגת בצורה סימביוטית עם הטכנולוגיות הדיגיטליות.

התרבות הדיגיטלית אינה תרבות אחידה; היא מורכבת מתת-תרבויות, כמו זו של ההאקרים, של הטכנו-פגאנים (Davis, 1995) ושל האקסטרופיים (Extropians) (Regis, 1994) ¹¹

התיאורטיקן מארק פוסטר טוען כי מיזוג סימביוטי בין האדם למכונה יכול לאיים על היציבות של תחושת הגבולות של הגוף האנושי בעולם: בני האדם יוצרים מחשבים, ואז מחשבים יוצרים מין חדש של בני אדם (Poster, 1990). שרי טרקל (Turkle, 1984) טוענת כי המחשב הפך להיות אובייקט שיש לראות בו טבע אנושי. החזון של תרבות הדיגיטלית בא לידי ביטוי בסרטים כגון "אודיסיאה בחלל". לפי הפילוסוף דניס וויס (Weiss, 1998), יש רמזים כי העולם האנושי בתרבות המקוונת היא ביסודה תפיסה קרטזיאנית ונוצרית מסורתית, דעה שנדחתה מזמן על ידי פילוסופים:

"Human nature in the digital culture is essentially a traditional Cartesian and Christian view long rejected by philosophers and critiqued by philosophical anthropologists" (שם).

לדעת ג'ון פרי בארלו (Barlow, 1996), אנו חיים בעולם הדומם של המרחב הקיברנטי במצב של חוסר גוף מוחלט. המידע הוא תבניות של מילים ורעיונות. בכל שיחה מוקלדת אנו זונחים את הגוף ואת מקומו והופכים למילים בלבד. כתוצאה מפתיחת הסייברספייס, טוען בארלו, עברה האנושות שינוי עמוק בהיסטוריה שלה (שם).

סוגי הידע התרבותי ומוצריו נחקרו כבר על ידי בורדייה ופסרון (Bourdieu & Passeron, 1977), שלפיהם המידע ברשת נהפך להון דיגיטלי (digital capital ¹² ולמשאב המשמש לבחינה התרבות, להשגת מעמד יוקרתי וכוח פוליטי.

מאז הדברים שאמרו על התרבות המקוונת טרקל (Turkle, 1984), פוסטר (Poster, 1990), בארלו (Barlow, 1996), וויס (Weiss, 1998) ואחרים, הולכת ונהפכת התרבות הדיגיטלית לתרבות של רובוטיקה, שמייצגיה הם האלגוריתמים של חברות כמו אמזון, גוגל ופייסבוק:

"Facebook are fast becoming, despite their populist rhetoric, the new apostles of culture" (Striphas, 2015).

התרבות של הרובוטיקה, המשלבת את התרבות האנושית עם התרבות המקוונת, מתבטאת כפי שראינו בדיסציפלינות רבות ומגוונות. אנו בחרנו את התפיסה הרואה בה תרבות המקיפה את התופעות האנושיות המושפעות מהתגברות האינטראקציות הבין-תרבותיות, מהדינמיקה הבין-אישית, החברתית, ההיסטורית ומהמערכות הסוציו-טכנולוגיות של האינטראקציה האנושית ברשת (Suchman, 2006Samani et al., 2013; ). לתפיסה זו מתלוות גישות כמו זו המייחסת משמעות דואלית לטכנולוגיה (Orlikowsk, 1992). סמני ועמיתיו (Samani et al., 2013) רואים בתרבות הדיגיטלית מערכת חברתית דואלית שניתן לתארה במושגיו של גיבסון, כלומר להתארגנות עצמית מתמדת (Giddens, 1973), ויש הטוענים שאף נוצרה בה "זהות תרבותית רב- שכבתית" (multilayeredcultural identity) (Weiss, 2003).

הבוטים של טוויטר למשל משתלבים בגלישה בפעילות חברתית (Savage, 11.1.2017). יש בהם קורטוב של אנושיות שכן הם מסוגלים לספר לילדים סיפורים לפני השינה, מזמינים אוכל כשלא מתחשק לנו לבשל, יודעים אם אנחנו מעדיפים קולה או פפסי, מעלים תמונות מאירועים חשובים בחיים, מסוגלים לנהל משא ומתן גם בסביבות עוינות, כמו תחנות כוח רדיואקטיביות, להלך בשדות מוקשים ואף לתקן את עצמם ללא התערבות יד אדם. עם זאת, הם מסוגלים להרוג אוטומטית ללא מגע יד אדם (Markoff, 16.6.2014) ונעזרים בבוט הצבאי LARs (Lethal Autonomous Robots) (Postma, 2014). יש קווי דמיון בין הבוטים לבין החברה, המשחזרת את האי-שוויון החברתי ואת הסגרגציה החברתית ואינה מקטינה אותם, שכן האלגוריתמים של בינה מלאכותית אינם יכולים עדיין לנטרל דעות קדומות (Devlin, 13.4.2017; Ragnedda, 2017) ¹³

אחד הדיונים הראשונים בהתפתחות הרובוטיקה התרבותית התקיים בסדנה בינלאומית שנערכה בקובה (Kobe) שביפן ב-31.8.2015. בסדנה דנו בבוטים כמשתתפי התרבות וכיצרניה, ועסקו בשינוי תפקידם ובהפיכתם לסוכנים חברתיים אינטראקטיביים המחקים התנהגויות חברתיות באמצעות ישות וזהות עצמאית, רגשית ואינטלקטואלית המסוגלת ללמידת עומק ומגיבים להן. מרבית הבוטים עדיין אינם עומדים בדרישות אלו ואינם יכולים לפעול ללא השגחה וללא התערבות אנושית בפרקי זמן ממושכים.

אנו עומדים עתה לפני התפתחות שלב נוסף בהתפתחות הרובוטיקה התרבותית והיא תרבות של תוכנות ההאנשה ללא יד אדם. אחד הניצנים להתפתחות זו הוא המאבק בין בוטים (bot-on-bot) בינם לבין עצמם ולמשמעויות התרבותיות הנלוות במקרה של ויקיפדיה, שבה משמשים הבוטים עוזרי עריכה מאז השקתה בשנת 2001 בתיקון שגיאות, בהוספת קישורים לדפים אחרים ובביצוע משימות ניקיון מגוונות. בראשית הפעלתה של הוויקיפדיה היו הבוטים נדירים מאוד, הם פעלו בבידוד, אבל לאורך זמן התנגשו זה עם זה והביאו לביטול עריכות של אחרים ולשינוי קישורים לדפים אחרים (Sample, 23.2.2017). אשר לחיים החברתיים המגוונים של הבוטים ולתרבותם השונה (Huff, 25.2.2017; Science Daily, 23.2.2017), חוקרים באוניברסיטת אוקספורד, בשיתוף Alan Turing Institute in London, שבדקו את היסטוריית העריכה של דפים ב-13 מהדורות שונות של הוויקיפדיה, העידו כי הבוטים הניבו תוצאות שונות בהתאם לסביבה התרבותית. למשל, בגרסאות הגרמניות היו מריבות הבוט הקטנות ביותר, ואילו הבוטים של הגרסה הפורטוגזית היו העוינים ביותר (Tsvetkova et al., 23.2.2017).

בדיוננו לא נפקד גם מקומו של נושא האתיקה של הבוטים, שכן הם נתפסים לעתים כ"גנבי זהויות", כטפילים מעצבנים היוצרים "תנועה מזויפת" ברשת ולעתים כאמצעי להפצת אפליה לא מכוונת על בסיס מין, גזע, גיל או מוצא אתני, כך טוען הפסיכולוג אנתוני גרינוואלד (Greenwald, 14.4.2017). עם מובילי השיח על האתיקה של הבוטים ניתן למנות את סנדרה ואכטר (בתוך דוולין, 16.4.2017), חוקרת אתיקה של נתונים ואלגוריתמים מאוניברסיטת אוקספורד, ואת אלן ויינפילד, פרופסור לאתיקה רובוטית הרואה בבעיית האתיקה בעיה דחופה (Sample, 17.2.2017) וכתב בשיתוף עם 13 חוקרים מאמר שכותרתו"Principles of robotics: Regulating robots in the real world" (Boden et al., 2017).

נושא האתיקה לא נשאר רק ברמה האקדמית. מכון התקנים הבריטי פרסם באפריל 2016 תדריך בנושא בשם:"Robots and robotic devices. Guide to the ethical design and application of robots and robotic systems" (BS 8611: 2016) וגם ענקי הטכנולוגיה כמו פייסבוק, אמזון, מיקרוסופט ויבמ, מפתחים כללי אתיקה סביב הבינה המלאכותית (Markoff, 1.9.2016).

עם זאת, מרבית האינטראקציה עם הבוטים החברתיים נמצאת עדיין בשלבי ניסוי, ועמדות רבות כלפיהם רוויות בגישות אמביוולנטיות ואוטופיות (Dunstan et al., 2016). הטכנולוגיה של תוכנות ההאנשה ללא יד אדם עדיין אינה בשלה ומרבית היישומים עדיין מוגבלים. עם זאת, הן כבר מקשות על הגולשים בתרבות המקוונת.

אמונה ודת חילונית

התרבות המקוונת מתאפיינת בתכנים רבים שאינם זקוקים להוכחת תקפותם, כמו נרטיבים, מדע בדיוני, קסמים, רוחות, אגדות אורבניות ואף אמונות דתיות. במקרה של הבוטים, שהם חסרי גוף ודמות גוף, ניתן להזכיר כי אחד מ-13 עיקרי האמונה היהודית של הרמב"ם הוא שאין לאלוקים לא גוף ולא דמות גוף. תפיסה זו מתיישבת עם הטוענים כי תופעת האלגוריתמים חיזקה את ממלכת הבוטים וקידשה אותה על ידי אמונה ואלוהות חילונית:

"Algorithms: New God of the Digital Age" (Murali, 17.10.2016).

גם באתר הישראלי "טסטולוגיה" נמצא סימוכין לתפיסה כי "אלגוריתם החיפוש של גוגל הוא לא פחות מהאלוהים החדש של הרשת" (ללא תאריך). בשלל האמונות והדתות החילוניות אין חובה לשאול שאלות, אלא רק לאסוף נתונים רבים ולהניח להם "לדבר", בהנחה שנתונים מדברים בעד עצמם, הם נגישים, אמינים ובלתי ניתנים לערעור (Hurlock, 10.6.2016) ומהווים "אצבע אלוהים" וכוח עליון החסין מפני שגיאות לעומת בני האנוש, שהם יצורים מוגבלים המועדים לטעויות. לגישה זו שותפים כוהני הדת בכנסיית הדטאיזם-הקונגלומרטים המקוונים, המצדיקה את הסתרת הצד האפל בפעילותם.

פרנק פסקואלה, מחבר הספר "The Black Box Society" , רואה באלגוריתמים ידע מיסטי ותורת הנסתר הטמונה בקופסאות השחורות (Pasquale, 2015).

על הצורך בדת חדשה בהקשרה לאינטרנט עמד בין היתר הסייבר-פילוסוף השבדי אלכסנדר בארד, מראשי הדת הסינתאיסטית (Syntheism) החדשה ¹⁴ דת זו כבר משתלבת בנוף הדתי והתרבותי העכשווי, שבו האינטרנט אינו משמש כלי תקשורת בלבד אלא מהווה בסיס לחשיבה דתית שיש בה אפשרויות בלתי מוגבלות לפיתוח צורות חדשות לחלוטין של טקסים דתיים. לדברי בארד, בתכנית ששודרה ב-TED נאמר כי: "אלוהים הוא רעיון חשוב מכדי להשאירו לדתיים […] אנחנו חיים בעולם ללא אוטופיה, וזה מסוכן מאוד. אנחנו צריכים להשיג אוטופיה חדשה, אחרת לא נוכל להציל את כדור הארץ […] אנחנו צריכים ליצור את אלוהים" (Piesing, 7.10.2014).

נוח הררי (הררי, 23.2.2013) סבור כי הולך ונוצר נרטיב אוניברסלי חדש של דת אזרחית השואבת את סמכותה מהאלגוריתמים ומה-Big Data. הנרטיב הזה, המכונה דטאיזם (Data-ism), מהווה השקפת עולם שלפיה היקום כולו הוא זרימת נתונים.

"האינטרנט של הדברים" (Internet of Things – IoT), לדעת הררי, עלול להתפשט אל מחוץ לכדור הארץ ולכסות את הגלקסיה השלמה ואף את היקום כולו, ולהפוך למערכת ל"עיבוד נתונים קוסמית" שהיא בחזקת אלוהים. דת זו תשרה בכל מקום ותשלוט בכל דבר, ובני האדם יתמזגו לתוכה בחזון הדומה לכמה מהחזיונות הדתיים המסורתיים (Harari, 28.6.2016).

דומה כי למושג "אמונה חילונית" יש יותר משמעות מעשית ופחות משמעות תיאורטית או דוגמטית, ואין היא בהכרח מכילה רעיונות בסיסיים והכרחיים לקיומם של חיים משותפים בקהילה חופשית בחיים עלי אדמות כאן ועכשיו, אינה עוסקת לא במצוות עשה ולא במצוות לא תעשה ואף לא בגאולה ובאחרית הימים (מייזלר, 2014).

סטיב לוהר (Lohr, 2015), בספרו על הדטאיזם, טוען כי עיקר השינוי אינו בתחום היישומים הטכנולוגיים של ה-Big Data, אלא בתפיסת העולם שלפיה החלטות נעשות על בסיס ההנחה כי רגשות ואינטליגנציה הם רק אלגוריתמים ועיקר הניתוח הוא על סמך נתונים וניתוח ופחות על סמך אינטואיציה.

דיון וסיכום

התפתחותה של תרבות של תוכנות ההאנשה ללא יד אדם וללא זהות אנושית עתידה להיות אחת התקופות המסוכנות ביותר בהיסטוריה האנושית. בדוח של מכון PEW נכתב כי הוכח שאוטומציה, רובוטיקה, אלגוריתמים ובינה מלאכותית יכולים לעשות עבודה שווה לזו שעושים בני אנוש ואף טובה יותר. באפשרותם להחליף רופאי עור, עורכי דין, בוחנים סיסמיים בשדות נפט, עיתונאים וספורטאים, משגרי טילים מודרכים, מנהלי גיוס עובדים, בוחנים פסיכולוגיים ואנשי מכירות, לבצע בדיקות רפואיות, לסחור במניות ואף להחליף את יוצרי האלגוריתמים עצמם (Rainie & Anderson, 3.5.2017).

חוקי אסימוב, שנועדו להרגיע את הציבור ולהראות לו שרובוטים אינם מזיקים, נוסחו בשלב מוקדם של התפתחות הרובוטיקה על רקע תרחישים פוטנציאליים של מדע בדיוני, אך אינם מתאימים כלל לשלב הנוכחי של התפתחות הבוטים, שכן עדיין לא נוצרה שום טכנולוגיה שתוכל לשכפל ולכלול את החוקים הללו בתוך תוכנות ההאנשה:

"Asimov’s rules are neat, but they are also bullshit" (Singer, 18.5.2009).

יתרה מזו, מדובר בתרבות שקשה לאפיין במושגים הקיימים וכנראה בסופו של דבר הרובוטים עצמם יגדירו מה תהיה תרבותם:

"Even if human researchers initiate a cultural revolution within the world of robotics, robots themselves will ultimately define what robot culture will be" (Samani et al., 2013).

המקרה של הבוט החברתי Tay במרץ 2016 הוכיח את הסכנה של איבוד שליטה על מערכת שאמנם נוצרה בידי בן אנוש אך על דעת עצמה החלה לרסס ביטויים גסים ותגובות גזעניות. יש הטוענים כי המקרה מעיד על חוסר הקשר בין הצד הטכנולוגי לצד החברתי והאנושי; עיצוב האלגוריתמים נתפס כצירוף של פתרון בעיות מתמטיות, טכניקות תכנות ועוד, ללא כל התייחסות למדעי החברה. הניתוק הקיים בין מדעי המחשב למדעי החברה מחייב לפתח קהילת מחקר בין-תחומית המשלבת תיאוריות ומתודולוגיות של מדעי החברה, פסיכולוגיה חברתית וכלכלה התנהגותית עם גישות של מדעי המחשב, כמו סימולציות בקנה מידה גדול וכריית נתונים עם "למידת מכונה" (Scholtes, Strohmaier & Schweitzer, 28.2.2017; Strohmaier & Wagner, 2014).

התפתחותה של התרבות המקוונת על בסיס של תוכנות האנשה מעלה גם חששות וגם תקוות. החשש המרכזי הוא כי תוכנות ההאנשה חודרות בקלות לאוכלוסיית בני האנוש שאינם מודעים כלל להשפעתן על תפיסת המציאות שלהם (Bessi & Ferrara, 7.11.2016), שכן קשה להבדיל בין תגובה של בוט מזויף לבין תגובה של בן אנוש. לטענת ברברה קאסין (Cassin, 2007), האלגוריתמים לעתים מזייפים, שכן כל "קליק" נחשב קול ללא הצבעה ואינו מהווה חלק מהעולם הפוליטי אלא עולם דעות "מרובע" של כמות (מספר הקליקים) המתורגמת לאיכות. בספרה "Google-me: America's Second Mission" היא מתארת את האלגוריתםPageRank , ¹⁵ המשמש מנוע חיפוש של גוגל ומדרג על פי קישורי היפרטקסט, מה שמראה לדעתה כי איכות היא תכונה מתהווה של כמות כחלק מקונצנזוס דמיוני.

האלגוריתמים שעליהם מבוססים הבוטים אינם בהכרח מייצגים היגיון של ידע אמין; אין הם מדויקים; הם תלויים בפרוצדורה של מכונה שתוכננה אמנם בשיקול דעת אנושי אך ככזו אינה יכולה להיות נטולת שגיאות, הטיות ומניפולציות, השפעות מסחריות ופוליטיות וכשלים מערכתיים. לעתים הנתונים סותרים זה את זה ולכן קשה להפיק מהם משמעויות (Bowker, 2013). גם הנתונים הגולמיים שעליהם מבוססת התרבות אינם משאבים טבעיים אלא שאובים מתוך תרבות קיימת המאפשרת לייצרם, לפרשם ולהגן עליהם (Gitelman & Jackson, 2013). הם כחומר ביד היוצר ו"כרייתם דומה לאמנות פלסטית" (Cheney-Lippold, 2017: 192). מקורם של הנתונים מדיסציפלינות שונות המדמיינות את האובייקטים שלהן באמצעות מבנים פרשניים מגוונים. יש משמעות גם לצורות האיסוף, האחסנה וההעברה של הנתונים ואף לסוגי האירועים הקשורים אליהם (Gitelman & Jackson, 2013).

התקווה המרכזית היא שתוכנות ההאנשה ברובוטיקה התרבותית יחדדו את היכולת האנושית וירחיבו את העצמי המנטלי (Samani et al., 2013) בהנחה שהבוטים יהיו בעלי מוח עצמאי, ביקורתיים, רפלקטיביים שיובילו לתודעה ולמודעות עצמית. כמה מתכונות אלו ניתן לייחס כבר כיום לאותם סייענים וירטואליים הנעזרים באינטליגנציה המלאכותית ונהפכים באמצעותה לגופים עצמאיים מבחינה רגשית ואינטלקטואלית.

לקשר שנוצר בין בני האנוש לתוכנות ההאנשה, יש קווי דמיון לקשר שהיה בין בני האנוש ובין האלים במיתולוגיה היוונית. השלב הנוסף באבולוציה של תוכנות ההאנשה, השונה מהתרבות ההיברידית, היא היווסדה של מורשת לא אנושית חסרת גוף ובעלת תכונות וערכים שעדיין אינם מוכרים ועדיין אין להם הסדרי אתיקה. ראשיתה של תופעה זו מתבטאת במאבקי הבוטים זה בזה (bot-on-bot) (Huff, 25.2.2017).

בתרבות ההיברידית מאמצים הבוטים פיסות תרבות על פי סדרי חשיבות סמויים וללא יד אנוש. יכולת הלמידה החברתית של הבוטים ההולכת ומתפתחת מאפשרת לשלב חידושים ממוזגים עם מיומנויות שפותחו בשלבי ההתפתחות המוקדמים יותר המועברים לדורות הבאים של הבוטים. מצופה כי הבוטים העתידיים ייצגו את עצמם ויהיו בעלי "מודעות עצמית" ואינטליגנציה שתעלה על זו של בני האנוש (Hintze, 14.11.2016) ויתאפשר להעמידם ל"מבחן טיורינג הפוך" (Reverse Turing Test) כדי לבדוק האם בני האנוש הגיעו לרמת האינטליגנציה של הבוטים (Blackmore, 2003).

אם אכן יתממש המצב שבו שלא יהיה הבדל משמעותי בין מה שניתן להשיג על ידי מוח ביולוגי לבין מה שניתן להשיג על ידי מחשב, טוען סטיבן הוקינג, עלול להתרחש תרחיש אפוקליפטי הדומה למה שהופיע בסרטי המדע הבדיוני הפופולרי כמו "טרמינייטור" (Terminator) ו"המטריקס" (The Matrix), שבהם הבוטים שולטים בבני אדם, ותגבר ההכרה שאין עוד צורך באנושות (Michael, 20.10.2016).

הכְּצַעֲקָתָהּ? נראה שתרחיש האימים הזה לא יתפתח ב-20 השנים הקרובות, לפחות על פי דוח שהוגש לנשיא ארצות הברית בדצמבר 2016, שכותרתו"Artificial Intelligence, Automation, and the Economy". עדיין נמצאת בשימוש רב הפלטפורמה של אמזון M-Turk (Amazon Mechanical Turk), שביסודה הרעיון כי יש משימות שבני האדם יכולים לעשות ביתר יעילות מאשר תוכנות האנשה (הכינוי M-Turk נגזר מהמקרה של "הטורקי המכני", שבו כאמור שחקן בשר ודם התחזה לבוט).

למעשה טרם הותאמו האלגוריתמים לחוקים המתמטיים השולטים בחברה וטרם הוכח כי "מובהק סטטיסטי" מציין מה באמת חשוב ונכון. דרכי המחקר בדיסציפלינות הקיימות משבשות במידה רבה את הפקת הממצאים הנאותה, בהעדר הכלים התיאורטיים והמתודולוגיים ההולמים את צורכי הניתוח של התרבות המקוונת בכלל ושל תרבות הביטים בפרט.

כך אפוא הדימוי שנוצר על האלגוריתמים שלפיו אין הם חדירים ועל תכנים שאינם זקוקים להוכחת תקפותם, אינו עומד בפני העובדה שלמעשה טרם נוצרו כלים מתאימים מדעיים מספיקים להבנת תופעת תוכנות ההאנשה ואף טרם נמצא השילוב ההכרחי בין מדעי המחשב למדעי החברה.

הדיון בתרבות המקוונת של תוכנות ההאנשה ללא יד אדם מתאפיין אפוא יותר בשיח על בסיס תורת הנסתר ואוֹקוּלְטיזם (Okkultismus), מצב המהווה כר לשגשוגן של ספקולציות מחקריות, אמונות דתיות, חיפוש אלוהויות ועלייתן של דתות חילוניות המחזירות את דיוננו במידה רבה להמשך התפתחותם של דיס-אוטופיה ומדע בדיוני ולעולמות האלים, השדים והרוחות. לכך כיוון כנראה הררי בדבריו: "ההיסטוריה החלה כשבני האדם המציאו את האלים ותסתיים כשבני האדם יהפכו לאלים" (מעמוד הבית של האתר שלו).

מקורות בעברית

1. אורפז, ע' (2.4.2017) – המהפכה הבלתי גמורה. דה-מרקר.
2. אלכסנדר, נ' (15.6.2016) – גם האלגוריתם המתוחכם ביותר מתגלה כגזען שלא מבדיל בין כהי עור לגורילות. הארץ.
3. אקונומיסט (11.4.2016) – הכירו את הבוטים: המהפכה הבאה בסמארטפונים שלכם. דה-מרקר.
4. אקונומיסט (12.02.2017) – סירי, מה זה טכנולוגיית זיהוי שפה ודיבור?
5. בליזובסקי, א' (17.10.04) – אני? רובוט? גלילאו.
6. גויכמן, ר' (14.2.2017) – את הכתבה הזאת היה יכול לכתוב גם אלגוריתם. מרקר.
7. גלריום, א' (27.3.2016) – מיקרוסופט סגרה את הצ'טבוט שלה אחרי שהפכה לנימפומנית ניאו-נאצית. וואלה.
8. דוולין, ה' (16.4.2017) – בינה מלאכותית מפתחת דעות קדומות כשהיא לומדת שפות. הארץ.
9. הטוני, י' (22.11.2016) – העולם עובר מכלכלת אפליקציות לכלכלת צ'ט בוט. אנשים ומחשבים.
10. הררי, י"נ (23.2.2013) – עלייתה של האמונה החדשה ב"דת המידע", הארץ.
11. טייג, א' (25.4.2017) – הבינה המלאכותית יכולה להציל את האנושות או להרוס אותה? דה-מרקר.
12. ירון, ע' (12.12.2016) – האם בקרוב למחשב תהיה נשמה? הארץ.
13. כהן, ש' (31.3.2017) – אני רובוט. ידיעות אחרונות.
14. לוינסון, ר' (20.9.2016) – המדריך השלם לסביבת הבוטים ואפליקציות המסרים Geektime.
15. מייזלר, י' (2014) – תיאופאתולוגיה חוקתנית, מתוך "ויהי בימי שלוט השופטים – לביקורת התאולוגיה החוקתית של הבונאפארטיזם השיפוטי", אוניברסיטת בן-גוריון בנגב.
16. צוק, נ' (23.4.2016) – זה הדיבור. כלכליסט.
17. קודנר, ל' (23.3.2017) – כשהרובוטים של מיקי מאוס ואלזה ישתלטו על הפארקים של דיסני. דה-מרקר.
18. רובין, א' (13.2.2017) – הרובוט שישנה את החוקים. דה-מרקר.
19. רולניק, ג' (21.4.2017) – פייסבוק: סכנה לתחרות, לשוק, לפרטיות ולדמוקרטיה. דה-מרקר.

References: Bibliography & Webliography

1. Abokhodair, N., Yoo D., & McDonald, D. W. (2015) – Dissecting a social botnet: Growth, content, and influence in Twitter. In Proceedings of the 18th ACM Conference on Computer Supported Cooperative Work (pp. 839–851). Vancouver, Canada: ACM.
2. Acerbi, A., & Nolfi, S. (2007) – Social Learning and Cultural Evolution in Embodied and Situated Agents, in Proceedings of the First IEEE Symposium on Artificial Life. IEEE Press (pp. 333–340). New Jersey: Piscataway.
3. Ahmed, I., & Singh, S. (2015) – AIML based voice enabled artificial intelligent. International Journal of u- and e- Service, Science and Technology, 8 (2): 375–384.
4. Asimov, I. (1950) – I, Robot. New York: Gnome Press.
5. Arnander, F. (14.4.2016) – The Meaning of Bots. Standout Capital.
6. Arnold, M. (1869) – Culture and anarchy. Gutenberg.
7. Arnold, M. (1993) – Culture and Anarchy and Other Writings (ed. S. Collini). New York: Cambridge University Press
8. Bessi, A. & Ferrara, E. (7.11.2016) – Social bots distort the 2016 U.S. Presidential election online discussion. First Monday, 21.
9. Basulto, D. (2012) – Is the Internet Becoming the Bot Net? Big Think.
10. Berners-Lee, T. (1991) – Short summary of the World Wide Web project [Internet]. Google. 1991 [cited 2016 Aug.
11. Barlow, J. P. (1996) – Crime and puzzlement. In: P. Ludlow (Ed.), High Noon on the Electronic Frontier: Conceptual Issues in Cyberspace (pp. 459–486). Cambridge, MA: MIT Press
12. Blackmore, S. (2003) – Consciousness in meme machines. Journal of Consciousness Studies, 10 (4–5): 19–30.
13. Boden et al. (2017) – Principles of robotics: Regulating robots in the real world. Connection Science.
14. Bogost, I. (15.12015) – The Cathedral of Computation. The Atlantic.
15. Bourdieu, P., &. Passeron, J. C. (1977) – Reproduction in Education, Society and Culture. Trans. R. Nice. London: Sage.
16. Bowker, G. C. (2013) – Data Flakes: An Afterword to Raw Data is an Oxymoron. In: L. Gitelman (ed.), "Raw Data" is an Oxymoron (pp. 167–172). Cambridge, MA: MIT Press.
17. Bruner, J. (15.6.2016) – Why 2016 is shaping up to be the Year of the Bot. O'Reilly.
18. Brustein, J. (17.11.2016) – Trump's Twitter Bots Turned Out on Election Day. Bloomberg.
19. Cabrera, M. (17.10.2016) – Sony develops algorithm based AI music. Reuters.
20. Cardon, D. (2013) – Dans l'esprit du PageRank, Réseaux 1/2013, 177: 63–95.
21. Cassin, B. (2007) – Google moi: la deuxième mission de l’Amérique. Paris: Albin Michel.
22. Cava, M. D. (30.3.2016) – Microsoft CEO Nadella: 'Bots are the new apps' USA TODAY.
23. Chatbot & Summit (2016)
24. Cheney-Lippold, J. (2011) – A New Algorithmic Identity. Theory, Culture & Society, 28(6): 164–181.
25. Cheney-Lippold, J. (2.5.2017) – We are data: Algorithms and the making of our digital selves. New Press.org.
26. Collins, R. (1986). – Weberian Sociological Theory. New York: Cambridge University Press.
27. Crawford, K. (2016) – Can an algorithm be agonistic? Ten scenes from life in calculated publics. Science, Technology & Human, 41(1): 77–92.
28. Cruz, M. R. (10.1.2017) – Alexa and virtual personal assistants, the stars of CES 2017 Bbva.com.
29. Davis, E. (1995) – Technopagans: May the astral plane be reborn in cyberspace. Wired.
30. Devlin, H. (13.4.2017) – AI programs exhibit racial and gender biases, research. The Guardian.
31. Devlin, H. (5.5.2017) – Human-robot interactions take step forward with "emotional" chatbot. The Guardian.
32. Dewey, C. (19.10.2016) – One in four debate tweets comes from a bot. Here’s how to spot them. Washington Post.
33. Domingos, P. (2015) – The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books, New York.
34. Dunstan, B.J., Silvera-Tawil, D., Koh, J.T.K.V., & Velonaki, M. (2016) – Cultural robotics: Robots as participants and creators of culture. In: J. Koh, B. Dunstan, D. Silvera-Tawil & M. Velonaki (Eds.), Cultural Robotics (pp. 3–13). CR: Cultural Robotics. First International Workshop, CR 2015, Held as Part of IEEE RO-MAN 2015, Kobe, Japan, August 31, 2015.
35. Dvorsky, G. (4.1.2013) – How much longer before our first AI catastrophe? Gizmodo.
36. Dvorsky, G. (24.2.2017) – Bots on Wikipedia Wage Edit Wars between Themselves that Last for Years.
37. Economist (9.4.2016) – Bots, the next frontier.
38. Economist (7.1.2017) – Technology Quarterly. Finding a voice. Language: Finding a voice.
39. Ferrara, E., Varol, O, Davis, C., Menczer, F., & Flammini, A. (2016) – The Rise of Social Bots. Communications of the ACM, 59 (7): 96–104.
40. Galloway, A. R. (2012) – The Interface Effect. Cambridge: Polity.
41. Giddens, A. (1973) – The Class Structure of the Advanced Societies. London: Hutchinson.
42. Gillespie, T. (2014) – The relevance of algorithms. In: T. P. Gillespie, P. Boczkowski & K. Foot (Eds.), Media Technologies: Essays on Communication, Materiality, and Society (pp. 167–194). Cambridge, MA: MIT Press.
43. Gitelman, L., & Jackson, V. (2013) – Introduction. In: "Raw Data" is an Oxymoron. Cambridge, MA: MIT Press.
44. Gottfried, J., & Shearer, E. (26.5.2016) – News use across social media platforms 2016. Pew.
45. Greenwald, A. G. (14.4.2017) – An AI stereotype catcher. Science, 356(6334): 133–134.
46. Harris, D. (23.8.2013) – Meet the algorithm that can spot and kill Twitterbots before they ever start spamming. Gigaom.
47. Halpern, S. (2.4.2015) – How Robots & Algorithms are Taking Over.
48. Haque, U. (31.6.2013) – Messiness will inevitably arise in spite of smart cities. Wired.
49. Harari, Y. N. (28.6.2016) – Yuval Noah Harari on big data, Google and the end of free will. The Financial Times.
50. Hashemi, T. (14.2.2017) – The Great Meme War helped Donald Trump win: Now Europe should prepare for the hidden battle. International Business Times.
51. Herrman, J. (24.8.2016) – How a strange new class of media outlet has arisen to take over our news feeds.
52. Hintze, A. (14.11.2016) – Understanding the four types of AI, from reactive robots to self-aware beings. The Conversation.
53. Howard, P. (15.11.2016) – Is Social Media Killing Democracy? Oxford Internet Institute.
54. Howard, P. N. (2.2.2017) – Computational Propaganda: The Impact of Algorithms and Automation on Public Life. Bcs.
55. Huff, E. (25.2.2017) – Like humans, Wikipedia bots too tend to squabble online Nyhetsbanken.
56. Hurlock, B. (06.10.2016) – Masters of the (Big Data) Universe Plant Engineering.
57. Internet Stats & Facts for 2016 – Hosting Facts.
58. lynn, A. (18.10.2016) – Historic Achievement: Microsoft researchers reach human parity in conversational speech recognition Microsoft.
59. Jordan, M. (26.10.2016) – In a post-truth election, clicks trump facts. The Conversation.
60. Kellog Insight (6.4.2017) – The Surprising Speed with Which We Become Polarized Online. Kellog Insight.
61. Kirchner, L. (6.9.2015) – When Discrimination Is Baked Into Algorithms. The Atlantic.
62. Koster, M. (1993) – Guidelines for robot writers [Internet]. [cited 2016 Aug 2]. robotstxt.org.
63. LaFrance, A. (31.1.2017) – The Internet is mostly bots. The Atlantic.
64. Lohr, S. (10.3.2015) – Data-ism: The Revolution Transforming Decision Making, Consumer Behavior, and Almost Everything
65. Markoff, J. (16.6.2014) – A Robot with a Little Humanity. New York Times.
66. Markoff, J. (1.9.2016) – How Tech Giants Are Devising Real Ethics for Artificial Intelligence Nytimes.
67. Markoff, J. (17.11.2016) – Automated Pro-Trump Bots Overwhelmed Pro-Clinton Messages, Researchers Say New York times.
68. McGill, A. (2.6.2016) – Have Twitter Bots Infiltrated the 2016 Election? The Atlantic.
69. Mendelson, A. (2013) – Can LAPD Anticipate Crime With "Predictive Policing"? California Report.
70. Messias, J., Schmidt, L., Oliveira, R., & Benevenuto, F. (2013) – You followed my bot! Transforming robots into influential users in Twitter. First Monday, 18(7).
71. Michael, T. (20.10.2016) – EXTERMINATE! Stephen Hawking fears artifical intelligence and killer computers will DESTROY humanity. The Sun.
72. Mittelstadt, B. D., Allo, P, Taddeo, M., Wachter, S., & Floridi, L. (1.12.2016) – The Ethics of Algorithms: Mapping the Debate.
73. Mnih, V. et al (26.2.2015) – Human-level control through deep reinforcement learning. Nature, 528: 529–533.
74. More, M. (1998) – The Extropian Principles: A Transhumanist Declaration.
75. Morozov, E. (2011) – Don't be evil. The New Republic.
76. Morozov, E (2013) – To Save Everything, Click Here: The Folly of Technological Solutionism. New York, Public Affairs.
77. Murali, J. (Admin) (17.10.2016) – Machine Learning Algorithms: New God of the Digital Age Corporate Ethos.
78. Murthy, D., Powell, A. B., Tinati, R., Anstead, N., Carr, L., Halford, S. J., & Weal, M. (2016) – Bots and Political Influence: A Sociotechnical Investigation of Social Network Capital. International Journal of Communication 10: 4952-4971.
79. O'Hara D., & Mason, L. R (30.3.2012) – How bots are taking over the world. The Guardian.
80. O'Reilly, T. (4.1.2016) – 6 things to look for in Next: Economy companies. Oreilly.com,
81. Orlikowsk, W. J. (1992) – The duality of technology: Rethinking the concept of technology in organizations. Organization science, 3(3): 398–427.
82. Oremus, W. (17.3.2014) – The First News Report on the L.A. Earthquake Was Written by a Robot. Future tense.
83. Pasquale, F. (2015) – The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge, MA: Harvard University Press.
84. Piesing, M. (7.10.2014) – Is the internet God? Alexander Bard's Syntheism paves the way for a new elite. The Guardian.
85. Podolny, S. (7.3.2015) – If an Algorithm Wrote This, How Would You Even Know? The New York Times.
86. Poster, M. (1990) – The Mode of Information. Chicago: The University of Chicago.
87. Postma, P. B. (2014) – Note, Regulating Lethal Autonomous Robots in Unconventional Warfare. U. St. Thomas L. J., 11(2): 299–300.
88. Quoc, M. (16.6.2016) – The state of bots: 11 examples of conversational commerce in Venturebeat.
89. Radiano, O. (23.12.2016) – Finding the Best Bot for 2016. Chatbots Life.
90. Rainie L., Anderson J., & Albright, J. (29.3.2017) – The Future of Free Speech, Trolls, Anonymity and Fake News Online.
91. Rainie L., & Anderson, J., (3.5.2017) – The Future of Jobs and Jobs Training. PEW.
92. Ragnedda, M. (2017) – The third level of Digital Divide: A Weberian Approach to Digital Inequalities. Routledge.
93. Ragnedda, M., & Muschert, G. W. (2015) – Max Weber and digital divide studies introduction. International Journal of Communication, 9: 2757–2762.
94. Regis, E. (1994) – Meet the Extropians Wired 2.10 (pp. 102–108).
95. Rossbach, S., & Glaser, H. A. (2011) – The Artificial Humans. A Real History of Robots, Androids, Replicants, Cyborgs, Clones and all the rest., Frankfurt: Peter Lang, Inc.
96. Saffo, P. (19.8.2008) – Daniel Suarez, "Daemon: Bot-Mediated Reality". The Long Now Foundation.
97. Samani, H., Saadatian, E., Pang, N., Polydorou, D., Fernando, O.N., Nakatsu, R., Valino Koh, J. T. K. (2013) – Cultural robotics: The culture of robotics and robotics in culture. International Journal of Advanced Robotic Systems, 10 (400–409).
98. Samovar, L. A., & Porter, R. E. (Eds.) (2003) – Intercultural communication: A reader (10th ed.). Belmont, CA: Thompson/Wadsworth.
99. Samovar, L. A., Porter, E., & McDaniel, R. (2009) – Communication Between Cultures. Boston: Wadsworth.
100. Sample, I. (17.2.2017) – AI watchdog needed to regulate automated decision-making, say experts. The Guardian.
101. Sample, I. (23.2.2017) – Study reveals bot-on-bot editing wars raging on Wikipedia's pages. The Guardian.
102. Savage, S. (11.1.2017) – Fighting online trolls with bots. Phys.org.
103. Schäfer, M. T. & van Es, K. (Eds.) (2016) – The Datafied Society: Studying Culture through Data. Amsterdam: Amsterdam University Press
104. Scholtes, I., Strohmaier, M., & Schweitzer, F. (28.2.2017) – Will Computer Science become a Social Science? Chair of Systems Design, ETH Zurich, Switzerland GESIS – Leibniz Institute for the Social Sciences, Cologne, Germany.
105. Schroeder, R. (2015) – A Weberian Analysis of Global Digital Divides. International Journal of Communication, 9: 2819–2837.
106. Science Daily (23.2.2017) – Computer bots are more like humans than you might think.
107. Simonite, T. (7.4.2016) – Here Come the Marketing Bots. MIT Technology Review.
108. Singer, P.W. (18.5.2009) – Isaac Asimov’s Laws of Robotics Are Wrong. Brookings.
109. Sloane, G. (6.4.2016) – WTF is all the fuss about chatbots. Digiday.
110. Spennemann Dirk HR. (2007) – Of great apes and robots: Considering the future (s) of cultural heritage. Futures, 39(7): 861–877.
111. Stark, T. (13.2.2017) – Has Jarvis and Now IBM has Havyn. Wired.
112. Stenberg, D. (29.3.2011) – History of IRC (Internet Relay Chat) Daniel Stenberg – daniel.haxx.se.
113. Striphas, T. (2010) – How to have culture in an algorithmic age. Differences and Repetitions, The late age of print.org.
114. Striphas, T. (2015) – Algorithmic culture. European Journal of Cultural Studies, 18(4–5): 395–412.
115. Strohmaier, M., & Wagner, C. (2014) – Computational social science for the world wide web. IEEE Intelligent Systems, 29(5): 84–88.
116. Suchman, L. (2006) – Human-machine reconfigurations: Plans and situated actions. Cambridge University Press.
117. Sullivan, M. (7.1.2017) – Will Bots Finally Start To Grow Up In 2017? Fast Company.
118. Tsvetkova, M., García-Gavilanes, R., Floridi, L, & Yasseri, T. (23.2.2017) – Even good bots fight: The case of Wikipedia. PLoS ONE, 12(2).
119. Turing, A. M. (1950) – Computing machinery and intelligence. Mind, 49: 433–460.
120. Turkle, S. (1984) – The Second Self. New York: Simon and Schuster, Inc.
121. Turovsky, B. (15.11.2016) – Found in translation: More accurate, fluent sentences in Google Translate. Google Blog.
122. Vaidhyanathan, S. (2011) – The Googlization of Everything (And Why We Should Worry), Berkeley, CA, University of California Press.
123. Vincent, J. (24.3.2016) – Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day. The Verge.
124. Wall, A. (2017) – History of Search Engines: From 1945 to Google Today. Search Engine History.
125. Wang, S. (13.8.2015) – The New York Times built a Slack bot to help decide which stories to post to social media. Nieman Lab.
126. Weber, M. (1998) – Preliminary report on a proposed survey for a sociology of the press (K. Tribe Trans.). History of the Human Science, 11: 111–120.
127. Weiss, D. M. (1998) – Human Nature and the Digital Culture: The Case for Philosophical AnthropologyThe papers given at the Twentieth World Congress of Philosophy, in Boston, Massachusetts from August 10-15, 1998.
128. Weiss, D. M. (2003) – Multiple Selves and the Internet Age. Humanities and Technology Review, 22 (1–20).
129. Weizenbaum, J. (1966) – ELIZA—A computer program for the study of natural language communication between man and machine. Commun. ACM, 9(1): 36–45.
130. Winfield, A. F. T, Sutcliffe, A. G., Griffiths, F. E., Durie R., Bown, J., Tennant Jackson, J., Erbas, M. D., Wang, D., Bhamjee, S. & Guest, A. (2011) – First steps toward Artificial Culture in Robot Societies (extended abstract), in Proc. 2nd European Future Technologies Conference and Exhibition 2011 (FET 11). Procedia Computer Science, 7: 130–132.
131. Wong, J. C. (6.4.2016) – What is a chat bot, and should I be using one? The Guardian.
132. Zeifman, I. (24.1.2017) – Bot Traffic Report 2016. Imperva Incapsula.