אפשר להוריד ידיים מההגה

שתי חברות ישראליות מדגימות איך טכנולוגיות מתקדמות, סימולציות חכמות ורגולציה פורצת דרך הופכות את החלום של נסיעה ללא נהג למציאות מרגשת ומהפכנית. בואו נצא למסע אל עידן התחבורה האוטונומית

"לפני כמה חודשים ערכנו בקליפורניה הדגמה של רכב אוטונומי ללקוח אירופי", מספר ערן אופיר, מנכ"ל חברת Imagry. "כשהוא ירד מהרכב, הוא אמר שהוא לא הרגיש שהוא ברכב אוטונומי. זה היה הרגע שבו ידעתי שהגענו לבשלות. יש עוד עבודה, אבל זה כבר מוכן לשוק."

Imagry היא חברה ישראלית העוסקת בפיתוח טכנולוגיה מבוססת בינה מלאכותית לאפשר נהיגה אוטונומית בכלי רכב פרטיים ואוטובוסים ציבוריים.

המערכת מתבססת בין היתר על טכנולוגיית Perception שפותחה ב-Imagry, המייצרת מבט-על של ° 360בסביבת הרכב ומאפשרת לו להתמודד בקלות גם עם מצבים עירוניים צפופים. בשונה ממתחרים הנשענים על HD Maps, שדורשות תחזוקה שוטפת, המערכת של Imagry עצמאית לחלוטין, והיא פועלת בזמן אמת וללא תלות במפות מוכנות מראש.

החברה, שהוקמה על ידי שני מהנדסים ממזרח ירושלים, מגוונת מאוד: חצי מהעובדים ערבים – מוסלמים ונוצרים. ההשקעה הראשונה הגיעה מקרן תקווין, שהאמינה בחברה. מאז הצטרפו משקיעים נוספים, החברה עושה חיל, ובמקביל, שואפת לחולל שינוי.

"באמצע 2021, כשהצטרפתי ל-Imagry, זו הייתה מעבדה טכנולוגית קטנה – אנשים שכתבו קוד", מספר אופיר. "אבל אחרי שעשיתי עסקים בכל העולם ראיתי ב- Imagry הזדמנות של פעם בחיים לבנות חברה ישראלית גדולה באמת.

"בבניית חברה צריך להתקיים 'משולש קסמים': צוות, טכנולוגיה ותזמון. ול-Imagry יש טכנולוגיה מדהימה, טיימינג מושלם – תעשיית הרכב היא הגדולה בעולם ועוברת עכשיו טרנספורמציה דרמטית – והצוות מוכשר ורעב להצלחה.

מערכת בטוחה פי 3 מנהג אנושי

עד לא מזמן, לא היו בנמצא מחשבים חזקים דיים לשימוש ברכב אוטונומי. מספר התרחישים בכביש כמעט אינסופי, ואין דרך לכתוב קוד מבוסס כללים שיכסה את כולם. מערכות מבוססות AI הן הפתרון – אך הן דרשו עד לאחרונה כוח מחשוב שלא היה זמין ברמת הרכב. כעת התמונה השתנתה.

"הטכנולוגיה שלנו מספקת מערכת שרואה הכול, מגיבה בזמן אמת בתוך פחות מ-100 מילישניות – שליש מזמן התגובה של נהג אנושי מיומן, ולכן היא בטוחה יותר", מספר אופיר."בניגוד לתפיסה בעבר, לפיה צריך להשתמש בחיישני ליידאר (LiDAR) ורדאר (Radar), היום ברור שזה לא הכרחי. טסלה פרצה את הדרך, ואנחנו, שעושים את זה כמו טסלה עם מצלמות בלבד, מציעים את הטכנולוגיה שלנו לכל מי שאינו טסלה", אומר אופיר.

המערכת של Imagry מבוססת על שמונה מצלמות ברכב: שלוש מלפנים, אחת מאחור, שתיים בצדדים ושתיים מתחת למראות. כל הווידאו מוזן למערך של רשתות עצביות. כל רשת, שאומנה מאז שנת 2018 על מאות מיליוני תמונות, מתמחה בזיהוי סוג אחר של אובייקטים.

הפלט של המצלמות מתאחד ליצירת מפה תלת-ממדית בזמן אמת שמציגה 360 מעלות סביב הרכב עד טווח של 300 מטר. המידע עובר למערכת תכנון התנועה (Motion Planning), המבוססת גם היא על בינה מלאכותית ובפרט על רשתות עצביות עמוקות (Deep Convolutional Neural Networks). זוהי מערכת לומדת המתעדכנת כל הזמן באמצעות למידה מפוקחת (Supervised Learning) ובסיוע מערכות סימון אוטומטיות (Auto Annotation).

"הטכנולוגיה של Imagry דורשת הרבה אומץ", מסביר אופיר. "כבר ב-2018 האמירה הייתה שרכב אוטונומי צריך לנהוג כמו בן אנוש. הדרך לעשות זאת שואבת השראה מחיקוי של תהליכים מוחיים אנושיים המתבצעים באמצעות רשתות נוירונים.

"הרעיון הוא שכמו שאנחנו רואים, מפרשים, מזהים כוונות, מחשבים מרחקים ומהירויות ומקבלים החלטות – כך גם הרכב צריך לפעול. שכבת ה-Perception מזהה את הסביבה, והמידע עובר לסינתזה ולפרשנות, ומשם לקבלת החלטות בזמן אמת: לפנות, לעצור, להמשיך וכו'".

יתרון נוסף של Imagry טמון בגמישות החומרה. המערכת אינה כבולה לשבב מסוים, אלא תומכת בפלטפורמות שונות ומותאמת לפיכך למגוון דגמי רכבים.

הליבה (Core) של המערכת – כל מה שנוגע לנהיגה האוטונומית עצמה – אחידה בכל מקום. אבל מסביבה נמצאת שכבת התאמה (קסטומיזציה), שמותאמת לצרכים המקומיים, לחוקי התנועה הייחודיים ולרגולציה בכל מדינה. הגישה הזו מאפשרת ל- Imagry לנוע בקלות בין שווקים שונים ולספק פתרון אחיד אך גמיש. "כך עבדתי תמיד", מסכם אופיר: "טכנולוגיה אחידה והתאמות חכמות מסביבה".

כדי שמערכת נהיגה אוטונומית תשתלב בעולם האמיתי, אין די בפיתוח ליבת הטכנולוגיה. ערן מתאר את מבנה הפיתוח של Imagry כשכבות בצל – כל שכבה נדרשת כדי לאפשר הפעלה במגוון רכבים, אזורים ודרישות רגולטוריות שונות.

השלב הראשון הוא האינטגרציה. כש-Imagry משתפת פעולה עם יצרני רכבים או אוטובוסים התוכנה שלה חייבת להתחבר למערכות השליטה והניהול של יצרנית הרכב. זהו תהליך מורכב שמכונה קסטומיזציה. "כל יצרן אוטובוס, למשל, בנה ממשק בקרה אחר, ואנחנו צריכים להתממשק לכולם".

שכבה נוספת היא לוקליזציה – התאמה לרגולציות ולחוקים מקומיים – עניין קריטי במיוחד בתחום התחבורה. כך, למשל, אוטובוס אחד עשוי להימכר באנגליה, שבה נוהגים בצד שמאל, ובמדינות אחרות שבהן הנהיגה היא בצד ימין. הלוקליזציה כוללת התאמות פיזיות והתאמות תוכנה – למשל, זיהוי תמרורים ייחודיים.

ברוכים הבאים לאוטובוס האוטונומי

מערכת החניה האוטונומית שפיתחה Imagry עם קונטיננטל כבר פועלת ברכבי החברה בארצות הברית ובגרמניה. הרכב מזהה חניה פנויה ומחנה את עצמו – תרחיש שכבר הפך לריאלי ועתיד להיות סטנדרטי ברכבים פרטיים החל מ-2027.

בזמן שרכבים פרטיים אוטונומיים עדיין נתקלים בקשיים, האוטובוסים מציעים אתגר טכנולוגי פשוט יותר, כי אוטובוס אוטונומי פשוט יותר להעלאה לכביש", לדברי אופיר. "בניגוד לרכב פרטי, האוטובוס נוסע באותו מסלול מדי יום, עוצר בתחנות קבועות ומהירות הנסיעה העירונית שלו מוגבלת. הבינה המלאכותית לומדת את השגרה הזו במהירות".

במקביל, הביקוש העולמי גובר. מחסור בנהגים, הזדקנות האוכלוסייה, מעבר המוני לערים והעדפות דור ה-Z יוצרים צורך אמיתי. "ממשלות פשוט לא יכולות להמתין. זו לא שאלה של אם, אלא של מתי", מבהיר אופיר.

הכיוון ברור. יפן כבר קבעה יעד להפעלת אוטובוסים אוטונומיים ב-100 ערים עד 2027, ובאירופה כמעט 20 מדינות מקדמות פיילוטים. ארצות הברית איטית יותר, אך Imagry צפויה להפעיל שם ב-2026 את האוטובוס הציבורי האוטונומי הראשון שלה, בזכות שיתוף פעולה עם רשות החדשנות.

"רשות החדשנות השקיעה ומשקיעה בפרוייקטים רבים שלנו", אומר אופיר. "התחלנו במסלולי מו"פ קלאסיים והתקדמנו למסלולי צמיחה ופיילוטים, במטרה להיכנס לשווקים כמו ישראל, יפן, אירופה וארצות הברית".

בישראל, לצד מובילאיי בירושלים, מפעילה Imagry מערכת דומה בחיפה, המדגימה נהיגה מדויקת, זהירה ואדיבה בסביבה אורבנית מורכבת. גם המעבר לאוטובוסים כבר בעיצומו. בנהריה, קו 5 של "נתיב אקספרס" כבר מדגים נסיעה אוטונומית, וערים נוספות בישראל מבקשות להצטרף.

בהתאם לרגולציה שאושרה בכנסת במאי 2022, בפרויקטים הנוכחיים בישראל עדיין נדרשים נהגי בטיחות ומהנדסי ניסוי במהלך הפיילוט. לצד נהג בטיחות שנמצא באוטובוס עד שיגיע למאה אלף קילומטרים אוטונומיים, כנדרש בחוק, יש ברכב גם מהנדס המוודא שהכול פועל כראוי. "למרות זאת, ברור כי המהפכה כבר בעיצומה", אומר אופיר, "והיום שבו רכבים ואוטובוסים אוטונומיים יהפכו לעניין שבשגרה – קרוב.

"ברגע שנגיע באוטובוס האוטונומי למאה אלף קילומטרים אוטונומיים בטוחים ומשרד התחבורה יאשר לנו רמה ארבע", מסביר אופיר, "הנהג ייצא מהאוטובוס והמערכת תוכל לפעול באופן עצמאי לחלוטין. כבר בשנת 2026 צפויים להיכנס לשירות בנהריה אוטובוסים נוספים כאלו".

המעבר לתחבורה אוטונומית מחייב קביעת חוקים, וישראל הפכה לחלוצה עולמית בקביעת חוקים בתחום זה. "רשות החדשנות זיהתה בזמן אמת את הפוטנציאל והובילה מהלך שהפך את המדינה למודל לחיקוי", מספר אופיר. "הגענו למצב שכיום אירופה מעתיקה מאיתנו ומדינות מאמצות את החוקים ותקנות משרד התחבורה שנכתבו כאן", הוא מספר בגאווה.

המציאות משתנה לנגד העיניים

החזון שמשלב בין תחבורה חכמה למודלים כלכליים חדשים, מדגים את המהפכה שמתרחשת בשוק הרכב, לא רק במישור הטכנולוגי, אלא גם בדרך שבה אנו תופסים בעלות ושימוש ברכב פרטי. אופיר מספר על מהפכת הרובוטקסי שמוצעת על ידי טסלה, שמאפשרת החזר השקעה מהיר והפיכת הרכב הפרטי למקור הכנסה פסיבית. "הרכב שלך יכול לעבוד בשבילך, גם כשאתה ישן", הוא אומר בהתלהבות.

אופיר רואה את הפוטנציאל המהותי ביותר למהפכה בחיים היומיומיים. הורים לילדים עסוקים בלי הרף בהסעות. פתרון אוטונומי זמין היה חוסך המון זמן. וגם את הצורך בשני רכבים ויותר זמן איכות. תחבורה ציבורית אוטונומית תפחית את הצורך ברכבים פרטיים. כלומר, פחות הוצאות על רכבים, דלק וביטוחים, ויותר כסף פנוי שישמש לפנאי, דיור, השכלה ותחומים אחרים.

"לצד ההתלהבות מהקדמה, יש לנו גם אחריות כבדה. התוכנה שלנו עדיין לומדת", אומר אופיר, "אבל היא לא לומדת לבד". בניגוד ל-Generative AI כמו ChatGPT, הלמידה במערכת של Imagry חייבת להיות מבוקרת ומפוקחת. המערכת לא יכולה פשוט 'להחליט' משהו בעצמה. היא לא מפתחת אישיות או הרגלים לא צפויים. "אם היינו מאפשרים לה ללמוד לבד, לא היינו יכולים להבטיח לרגולטור שהיא בטוחה לשימוש".

"אחרי הכול, כשאנשים יושבים ברכב שנוסע במהירות של 90 קמ"ש, החיים שלהם תלויים במערכת. אי אפשר להרשות לה להיות חצופה או להפגין 'מצבי רוח' ו'הזיות' של בינה מלאכותית. בניגוד לבינה מלאכותית פופולרית, המערכת שלנו חייבת להיות חסינה מטעויות. "כאן מדובר בחיים של בני אדם, ואנחנו שואפים לשנות אותם רק לטובה".

נהיגה בעולם הסימולציה

בהקשר של חזון התחבורה האוטונומית, יש שאלה אחת שמעסיקה רגולטורים בכל העולם: איך אפשר לבדוק שרכב אוטונומי בטוח, בלי לסכן אף אחד?

כאן נכנסת לתמונה Cognata – חברה ישראלית שמפתחת סימולציות מתקדמות שמאפשרות לבדוק, לאמן ולשפר את מערכות הנהיגה של רכבים אוטונומיים, עוד לפני שהם יוצאים לשטח.
במילים אחרות, במקום לשלוח רכב אמיתי לכביש כדי לבדוק איך הוא מתמודד עם תנועה, מזג אוויר, הולכי רגל או כל תרחיש מורכב אחר – Cognata יוצרת "עולם וירטואלי" ריאליסטי שבו אפשר לבדוק את כל זה.

בפרויקט משותף עם Imagry, משרד התחבורה ורשות החדשנות, בחנה Cognata לראשונה את השימוש בסימולציה ככלי רגולטורי – לא כהדגמה או כלי פיתוח פנימי של החברה, אלא ככלי שמשרד התחבורה עצמו יכול להפעיל כדי לאשר רכב לנסיעה. מבחינת Cognata, סימולציה מתקדמת היא לא רק כלי לפיתוח – אלא תנאי הכרחי לבטיחות, לרגולציה ולהבנה של עידן הרובוטים האוטונומיים מבחינה ציבורית.

המערכת של החברה מדמה ערים, כבישים, תנאי מזג אוויר (גשם, ערפל, שלג), זמני יום ולילה, תנועת רכבים ואנשים, כאילו מדובר בנסיעה אמיתית. תוך כדי, הם גם מדמים איך החיישנים של הרכב קולטים את הסביבה, ובודקים איך המערכת מגיבה.

המטרה היא לבדוק מראש את ההתנהגות של הרכב מול כל מצב אפשרי, כולל מצבי קצה מסוכנים או נדירים, ולוודא שהמערכת מגיבה נכון. זה חוסך ניסויים יקרים ומסוכנים בשטח, ומאפשר ללמוד ולעדכן את הטכנולוגיה מהר ובבטחה.

שי רוטמן, מנהל הפיתוח העסקי של Cognata, מסביר שאי אפשר להסתפק בהצהרת יצרן. על מנת שמשרד התחבורה יוכל לבדוק את הרכב בעצמו -נדרש כלי חדש: סימולטור שיאפשר לו להעריך את התנהגות הרכב במצבים מסוכנים, בלי לשחרר אותו לכביש".

"באין נהג ברכב, כל האחריות נופלת על המערכת. ואם חס וחלילה תקרה תאונה, זה עלול להיות סוף התוכנית האוטונומית לעשור שלם." זה לא עניין תיאורטי. רוטמן מתייחס למקרי עבר שבהם תאונה בודדת הובילה לקריסת תוכנית שלמה.

"אני לא מקל בכך ראש," הוא מוסיף. "אם רכב אוטונומי ידרוס ילד, זה יהיה מזעזע. אבל יכול להיות שהוא כבר הציל עשרות אחרים, כי הוא הבחין במשהו שבן אנוש לא היה מזהה. זו מורכבות שצריך לדעת לנהל – עם רגולציה, עם תקשורת ועם שינוי תודעתי".

החברה הפועלת כבר שמונה שנים מייצרת הכנסות של כמה מיליוני דולרים בשנה. היא מפתחת מערכות סימולציה חכמות לרכב אוטונומי – כאלה שמבוססות על וידאו מהעולם האמיתי ולא רק על הדמיה גרפית. השיטה שלה מאפשרת לה לקחת קטע נסיעה שצולם בשטח ולהלביש עליו ערפל, גשם, שקיעה או מחיקה של קווי כביש, באופן מדויק, נשלט וניתן לשחזור.

"Generative AI רגיל הוא מרהיב ויזואלית, אבל הוא לא צפוי, לא חוזר על עצמו ולא נשלט", אומר רוטמן. "זה אולי טוב לסרטונים שיווקיים, אבל לא לכלי פיתוח בתחום התחבורה. מערכות הלמידה של AI מתבססות על דוגמאות. ואנחנו מייצרים עבורן את הדוגמאות האלה – כמה שיותר, וכמה שיותר מגוונות", מסביר רוטמן.

Cognata עושה שימוש בטכנולוגיות של בינה מלאכותית גנרטיבית מפוקחת כדי לשנות את תנאי הנסיעה בתוך וידאו אמיתי שצולם בשטח. "זו לא סימולציה מצוירת, אלא מידע אמיתי שעבר שינוי", מסביר רוטמן.

כולנו יודעים שלבינה המלאכותית יש גם "רצונות משלה": היא עלולה להוסיף פרטים לא רצויים – תופעה המכונה "הזיות", כמו עין שלישית בפנים של אדם. Cognata פתרה את הבעיה בכך שהיא לא מתחילה מאפס, אלא מנתוני אמת. "אנחנו אומרים למערכת: הנה נסיעה שקרתה, עכשיו שני רק את התאורה או מזג האוויר. כך אנחנו שומרים על דיוק, שליטה ומניעת הזיות.

"בתחום שלנו צריך תוצרים שהם ניתנים לחזרה (Repeatable), לשליטה (Controllable) ולחיזוי (Predictable). מה שאנחנו עושים זה לא רק הדמיה – זו מציאות מבוקרת. אנחנו לא בונים פנטזיה, אלא מודלים שמספקים לחברות ולרגולטורים יכולת אמיתית לבדוק, להשוות ולשחזר תוצאות.
בעולם הרכב, המשמעות של זה עצומה. רוב הנתונים שיש לחברות רכב מצולמים בתנאי מזג אוויר נוחים, כי זה הזמן שבו אנשים באמת יוצאים לנהוג. אבל מה שחסר להן זה הדבר הכי חשוב: מצבים קשים כמו גשם, ערפל, שלג ודמדומים. שם נמצאים מקרי הקצה, שם הטכנולוגיה באמת נבחנת.

"אנחנו מספקים להם את הכלים שהם צריכים כדי לאמן את מנועי ה-AI שלהם באמת. עבור מערכות נהיגה אוטונומיות, היכולת לזהות ילד שרץ לכביש חייבת לעבוד בכל מצב וזה בדיוק מה שאנחנו מייצרים – שונות, מגוון. המערכת צריכה להיחשף להמון דוגמאות מתנאים שונים כדי ללמוד להבדיל ולהגיב באופן חכם ואמין. בסופו של דבר, מה שהלקוח צריך זו היכולת לייצר שונות. ככל שיש יותר דוגמאות, מיותר תנאי תאורה, מזג אוויר וסיטואציות, כך המנועים של ה-AI לומדים טוב יותר לזהות ולהגיב.

"אנחנו לא אלה שנדרשים לעמוד ברגולציה, אלא החברות שמשתמשות בטכנולוגיה שלנו", אומר רוטמן, "אבל אנחנו עובדים בצמוד לרגולציה. אנחנו עוקבים אחרי הדרישות הרגולטוריות בעולם האוטומוטיב ודואגים שהמערכת שלנו תעזור ללקוחות לעמוד בהן. הרגולציה לא עוצרת, היא רצה קדימה. הדרישות מחברות הרכב הופכות להיות יותר ויותר מורכבות, וחלק משמעותי מהדרישות האלה ניתן להציג רק בסימולציה.
אם יש דרישה לבצע 10,000 מבחנים, זה פשוט לא מעשי לעשות את כולם עם רכב אמיתי בכביש. אנחנו מאפשרים לעשות את זה בסימולציה בטוחה, מדויקת וניתנת לשחזור.

אפס סובלנות לטעויות

הפרויקט המשותף עם רשות החדשנות, משרד התחבורה ו-Imagry מדגים גם את מהות העשייה בתחומי טכנולוגיה משנה מציאות, שבה אף חברה לא יכולה לפעול לבד.

Cognata, שקיבלה מרשות החדשנות מענק ייעודי לפיתוח רכיב הסימולציה שלה, פעלה יחד עם Imagry כדי לאפשר הדגמה כוללת – האחת אחראית על כלי התחבורה האוטונומי, והשנייה על סביבת הבדיקה המאובטחת. "הפרויקט נמצא ממש בשלבי הסיום", מספר רוטמן. "הדוח הסופי עדיין לא פורסם, אבל עד עכשיו הוא התקדם יפה מאוד.

"רשות החדשנות מאוד פתוחה ומעודדת, יש לה מסלולי מימון שעוזרים לחברות לגשר על פערים, וזה ממש לא מובן מאליו. לגבי הטכנולוגיה שלנו – אין עוד דבר כזה ברמה העולמית, אנחנו לא מכירים פתרון שמתמודד עם הבעיה כמו שאנחנו מתמודדים. וכמובן, כבר הגשנו פטנט על זה.

"אנחנו נמצאים בשלבים שונים של פיילוטים ומכירות מול לקוחות. אני מאמין שבעוד שנתיים-שלוש נוכל להגיע לתוצאות שלא יאומנו באמצעות בינה מלאכותית גנרטיבית גם בלי השיטות שפיתחנו היום.

"עד שזה יקרה אנחנו יודעים לפתור את הבעיות הקיימות ונותנים מענה, במקביל לקצב המדהים של התפתחות הטכנולוגיה. אנחנו מהווים מדרגה – שלב ביניים, עד שהתחום יבשיל. בעתיד יהיו כלים מתקדמים יותר, אבל כאן ועכשיו יש צורך אמיתי ואנחנו פותרים אותו.

Cognata לא מתמקדת רק בנהיגה בכבישים. החזון שלה כולל את כל עולם הרובוטיקה האוטונומית: טרקטורים, מלגזות, משאיות מכרות ואפילו מערכות הגנה. "דווקא הכלים שפועלים מחוץ לכביש מתקדמים מהר יותר, יש בהם פחות רגולציה, פחות הולכי רגל, ובמקרים רבים הרגולטור הוא גם המפעיל עצמו".

Cognata, שעובדת בין היתר גם עם מערכת הביטחון, מאמינה שהמהפכה האמיתית תגיע דווקא מהשטח והרכבים האוטונומיים על הכביש יצטרפו אליה מאוחר יותר. "אנחנו מאמינים שהעולם הולך לכיוון של רובוטיקה אוטונומית.

"כשהחברה הוקמה, לפני שמונה שנים, חשבנו שבתוך שנתיים הכבישים יתמלאו ברכבים אוטונומיים. היום אני חושב שהרובוטים הם אלה שיגיעו קודם והרכב האוטונומי יצטרף אליהם. מתי? ברמה מסחרית, אני חושב שעד 2030 נראה רכבים אוטונומיים פועלים ביוזמות מאוד ממוקדות, כמו רובוטקסי או תחבורה באזורים מוגדרים. אבל רכב אוטונומי בבעלות פרטית? זה עוד רחוק.

"אחת הבעיות הקשות ביותר של תעשיית הרכב האוטונומי היא האתגר התקשורתי: חלק מהמטרה הוא לנרמל את התפיסה שרכב אוטונומי זה בסדר. אבל המציאות היא שאין שום סובלנות ציבורית לתקלות", מסביר רוטמן.

"זה לא תמיד באשמת הרכב: לפעמים רוכב אופניים התקרב יותר מדי, לפעמים הילד רץ בלי להסתכל. אבל ברגע שזה רכב אוטונומי הציבור לא סולח, וזו בעיה. אי אפשר לדבר על בטיחות רק במספרים, צריך לדבר גם על תחושת אמון. אחד החסמים המרכזיים ביותר של התחום הזה הוא היכולת האנושית לקבל את העובדה שגם רובוטים יעשו טעויות".