ניוזלטר יוני 2016  
מהפכת הבינה המלאכותית- גם המחשבים רוצים ללמוד
מאת: עופר להק-סבה, מנכ"ל

השבוע התפרסם כי פרופסור באוניברסיטה בג'ורג'יה, ארה"ב לימד 300 סטודנטים בקורס אינטרנט והוצף באלפי שאלות מהם דרך הפורום של אתר הלמידה. הוא תכנת מכונה להשיב על שאלות התלמידים וחלק גדול משאלות התלמידים נענה על ידי רובוט מבלי שהם ידעו שזה אינו המורה שלהם שעונה להם. התלמידים כעסו ונעלבו אך למעשה הם חוו חוויה שהולכת להיות דומיננטית יותר ויותר בשנים הקרובות.
בקרוב לא נתכנת מחשבים אלא נאמן אותם כמו שמאמנים כלב או דולפין. זהו סוף עידן הקוד – שבו מתכנת יכול היה להורות למחשב לבצע פקודות מסוימות. כעת המחשב מבקש אינסוף נתונים מהם הוא ילמד לזהות את הדפוס הנדרש לביצוע משימה מסוימת. כיצד נלמד את המחשבים בעתיד והאם איבדנו שליטה על הבינה האנושית לטובת המחשבים?

לפני המצאת המחשב רוב המדענים התייחסו על המוח כאל קופסה שחורה. הדרך היחידה להבין את המוח היתה באמצעות ניתוח של התנהגות חיצונית, כמו הניסוי המפורסם על הכלב של פבלוב (הפעמון מצלצל, הכלב מרייר). הבנה אמיתית של מחשבות, זכרונות ורגשות, היו משהו שמעבר להישג ידו של המדע. כל זה השתנה באמצע שנות החמישים של המאה הקודמת, עם כניסת המחשבים לעולמנו. בבת אחת החלה האנושות להמשיל את המוח האנושי למחשב. אנשים, כך טענו החוקרים,  אינם רק אוספים של תגובות מותנות. הם סופגים מידע, מעבדים אותו ופועלים על פיו. לכן הם עובדים לפי מערכת לוגית כלשהי, כלומר המוח אינו קופסה שחורה אלא יותר כמו מחשב. האמירות האלו החלו לצוץ בהיקפים קטנים בהתחלה אך הם התעצמו ככל שהמחשבים נכנסו לחיינו והפכו להיות ציוד קבוע במעבדות. בסוף שנות השבעים, הוטבעה סדרה חדשה של מונחים שתארו את המוח במונחים של מחשב. מחשבות של אדם הומשלו לתכנות או קידוד, עובדות וזכרונות אוחסנו ב"הרד דיסק". בתפיסת המוח שלנו כמחשב יש משהו מאוד מעצים. אם המוח שלנו, או העולם שבו אנו חיים, הוא מחשב אחד גדול, אז אפשר לתכנת את העולם (או את המוח)  ולשלוט בו.  אלא שבשנים האחרונות חלה מול העיניים שלנו מהפכה תכנותית כה גדולה, שלוגיקה של קוד תכנות כמשהו לוגי ויציב שיש לנו שליטה לגביו התערער לחלוטין. כעת קל יותר להמשיל את המוח למחשב, כי גם המחשב הפך להיות קופסה שחורה.
חברות ותאגידים משתמשים בקרד כדי להבין את הקשרים האינטימיים ביותר שלנו. מארק צוקרברג מייסד פייסבוק העלה את האפשרות שיתכן שיש חוק מתמטי יסודי שמסביר את מערכות היחסים האנושיות. לפייסבוק יש כיום רובוט שיודע לזהות את הפוסט שאנשים כותבים ולהציע להם כיצד לכתוב אותו באופן אטרקטיבי יותר בהסתמך על הידע שנצבר מכל האנשים שכתבו משהו דומה בעבר. למשל, מישהו מעלה פוסט על מכירה של מכונת כביסה ישנה, פייסבוק ידע כיצד לכתוב טקסט שיגדיל את הסיכוי למכור את אותה מכונת כביסה. היכולת לתכנת, שהפכה בשנים האחרונות למיומנות נחשקת,מתבררת כשונה ממה שחשבנו. נראה שהמכונות והמחשבים שאנחנו מפעילים בשליטה כה רבה מתחילים לדבר בשפה חדשה כיום ואפילו המתכנתים הטובים ביותר לא בהכרח מבינים עד הסוף את השפה הזו.
המגזין wired ייחד את גיליונו האחרון לנושא. כותרת הגיליון מיוני 2016 היא  "סוף עידן הקוד- בקרוב לא נתכנת מחשבים אלא נאמן אותם, כמו שמאמנים כלב". מהי אותה מהפכה מחשובית שבה המחשבים שלנו רוצים ללמוד לבד ואיך הדבר הזה הולך להשפיע על החיים של כולנו?

בשנים האחרונות שינתה תעשיית הטכנולוגיה את הגישה שלה למחשוב לגישה חדשה ומרעישה שנקראת machine learning- למידה חישובית או למידת מכונה. למידה חישובית עוסקת בפיתוח אלגוריתמים המיועדים לאפשר למחשב ללמוד מתוך דוגמאות. כלומר, לא עוד תכנות קלאסי על פי משימה של המתכנת. בתחום זה, המחשב הוא הלומד. המטרה המרכזית של המחשב הוא לאסוף נתונים מן העולם האמיתי עבור בעיה מסוימת שעליה לא ניתן לכתוב תכנות מראש. למשל, בעיית זיהוי שמומחה אנושי מסוגל לפתור, אך לא מסוגל לכתוב את הכללים לזיהוי בצורה מפורשת, או שהם משתנים עם הזמן ולא ניתנים לכתיבה מראש . בעולם התכנות המסורתי, המתכנת כותב הוראות מפורשות שלב אחרי שלב, והמחשב נדרש לעקוב אחריהן. בלמידה חישובית, המתכנתים לא מקודדים קוד עם הוראות אלא מאמנים את המחשב. אם רוצים ללמד מחשב לזהות חתול לדוגמה, לא ניתן לו הוראות לחפש אוזניים, פרווה ועיניים. פשוט מראים לו אלפי תמונות של חתולים עד שהמחשב מבין לבד שזה חתול. אם המחשב רואה שועל וחושב שהוא חתול, לא משנים את קוד התכנות, אלא ממשיכים לאמן אותו עם עוד ועוד תמונות עד שיבין ששועל הוא שועל וחתול הוא חתול. זוהי מהפכה של ממש בעולם הלמידה. מעולם שעוסק באיך ללמד בני אדם להבין דברים באופן עצמאי, לעולם שיש בו תלמידים חדשים, והם למעשה לומדים בצורה דומה לזו שבה המוח שלנו לומד. מכאן גם ההבנה, שהמוח שלנו לא באמת עובד כמו מחשב כפי שנוח היה לחשוב כל השנים. המוח הוא מכונה לומדת ממקרה למקרה, וכעת גם המכונות הצטרפו לאותה שיטה.  השוני בין תכנות קלאסי ללמידה מחשובית הוא שהמתכנת לא יודע במדויק איך המחשב משלים את המשימות שלו. למעשה הפעילות המתרחשת שם היא קצת "קופסה שחורה" בדיוק כמו המוח שלנו. אלא שהקופסאות השחורות של המחשבים לוקחות אחריות על יותר ויותר משימות דיגיטליות יומיומיות. לכן, הם לא רק ישנו את מערכת היחסים שלנו עם הטכנולוגיה, הם גם ישנו את האופן שבו אנחנו מבינים את עצמנו ואת העולם. המתכנתים שהיו מעין כל יכול שמתכנתים כל סוג של קוד והם השליטים של תכנת המחשב, יהפכו למעין הורים, מורים או מאמנים. זו כבר מערכת יחסים מורכבת ומסתורית יותר.  אנדי רובין, מתכנת מפורסם מאוד בעולם, מהיוצרים של מערכת ההפעלה "אנדרוראיד" של גוגל, מספר על השינוי שעובר על מתכנת בעידן ה- machine learning:  אחרי שמערכת מחשובית לומדות לזהות דיבור, המתכנת כבר לא יכול להסתכל פנימה ולראות איך זה קרה בדיוק. כמו המוח- אי אפשר כבר לדעת עד הסוף מה קורה בפנים. יש שם מיליארדים של נתונים שהמצרף שלהם מאפשר למחשב לקבל החלטה רצויה.

בניגוד למושגים אחרים שעולם הטכנולוגיה מזמן לנו, דוקא המושג של בינה מלאכותית Artificial intelligence AI , הוא מושג שקיים כבר כמה עשורים, מה שמוסיף לבלבול. הפעם נראה שמהפכת הבינה המלאכותית מתרחשת מול העיניים שלנו בשנים אלו ממש. העוצמות המחשוביות מחד והמידע הרב שנאסף בהם מאידך (big data)  גורמים לכך שמערכות מחשב מחקות את הקשרים הרב שכתביים שיש לנוירונים אצלנו במוח. לא בכדי, פייסבוק יודעת לקבוע איזה סיפורים לבחור לנו מכלל התכנים האפשריים, מחשבי גוגל יודעים לזהות פרצופים, מערכת ה- skype יודעת לתרגם דיבור לשפה אחרת בזמן אמת. כבר לא מדובר בכתיבת קודים מתוחכמים, אלא באפשור של המחשבים ללמוד כמות ענקית של מידע. עד לפני כמה שנים ההתייחסות לבינה מלאכותית היתה שונה לחלוטין ולמרות תקוות שהיו לגביו הוא לא חולל מהפכה גדולה. התפיסה ה"ישנה" על בינה מלאכותית טענה שאם מתכנת יכתוב מספיק פקודות וחוקים, הוא בסופו של דבר ייצור מערכת חכמה מספיק להבין את העולם. אך כיום המושג "בינה מלאכותית" הוא בעצם משהו אחר. היום, המחשבים מוצפים בנתונים עד שהם מגיעים למסקנות שלהם. בעבר המחשבים לא היו מספיק חזקים לכך, מה שהשאיר את מלוא ה"כח"בידי המתכנת. עכשיו, לא בטוח שיהיה צריך כל כך הרבה מתכנתים. המחשבים כבר לא מבקשים שנזין בהם מיומנויות ישנות. הם רוצים ללמוד תוכן חדש, ולבד. תחרות לכל דבר למקצוע המתכנת שנתפס בעיננו כמודרני וחדשני. זה לא שמקצוע הקידוד יעלם, אבל חלק גדול מהפונקציות שנצטרך ממחשבים, נקבל מהם באופן עצמאי והמתכנת יצטרך בעיקר לאמן את המערכות הללו, וזו כבר אומנות חדשה. כיום יש רק כמה מאות אנשים בעולם שיודעים לעשות זאת באופן מצויין וכבר הפעילות שלהם משפיעה מאוד על תעשיית הטכנולוגיה.

אי אפשר לקרוא את כל הזה בלי קצת לפחד.. ההבנה שבמידה מסוימת אנחנו מאבדים שליטה על היכולת שלנו "למשול" על המחשבים. סנונית ראשונה המדגימה זאת, היא אירוע דיגיטלי מזעזע שהתרחש בקיץ שעבר כאשר מערכת זיהוי התמונות האוטומטית של גוגל החלה לתייג אנשים כהי עור כגורילות. גוגל מיהרה להתנצל ולתקן, והאירוע הזה העלה את השאלה הפילוסופית מי אשם בלמידה השגויה הזו? אדם? חברת גוגל? מחשב?  האם יש כאן כניעה לעצמת המחשב? האם באותו אופן הטכנולוגיה הלומדת תוכל להשפיע על שווקים כלכליים? על החקר האנושי? על מהלכים פוליטיים וחברתיים? אולי אפילו על הנשק שהאנושות תייצר בעתיד? בינתיים, גוגל הודיעה שהיא משחררת "כפתור אדום" שמאפשר לבני אנוש לעצור פעילות של בינה מלאכותית שהיא מזיקה.
הכותבים במגזין wired  לא רואים בהתפתחויות אלו סיבות לפחד או ללחץ. הם רואים זאת כתחילת מערכת היחסים שביננו לבין המחשבים הלומדים. גם אם לא תמיד נבין איך המכונות הללו חושבות, לא נישאר חסרי כוחות לתקן אותן. מעצם היותנו המאמנים, ההורים והמלמדים של אותן מכונות, נידרש לקחת אחריות כמו כל מורה או הורה טוב שרואה התלמיד שלו לא מצליח. יהיה צריך לאמן שוב ושוב להתנהגות רצוייה, לספק עוד ועוד נתונים למערכת, עד שהיא תשכיל לקודד את עצמה מחדש באופן שתואם את הרצונות שלנו. לא נידרש להיות מתכנתים לשם כך. כשם שכל אחד יכול להקים אתר אינטרנט היום, גם אימון המחשבים יהיה משהו שכל אחד מאיתנו יוכל לעשות. כל אחד מאיתנו יהפוך למורה המלמד מחשבים. כל זה לא יקרה בטווח הקצר כמובן, אך נראה שהכיוון שהטכנולוגיה הולכת אליו הוא כיוון שהופך את מערכת היחסים שלנו עם מחשבים למורכבת ומתגמלת יותר. היכונו לפתח כישורי הורות למחשבים שלכם, על מנת שתגדלו אותם לתפארת.

כתבת השער של מגזין Wired – יוני 2016

הגדרה ל machine learing

הרובוט שהחליף את עבודת המורה

עורך הדין הראשון בעל בינה מלאכותית

רובוט של פייסבוק משכלל את הפוסטים של המשתמשים

הכפתור האדום של גוגל לעצירת בינה מלאכותית מזיקה