שונות

ד"ר עבדאלה קבלאן בנושא בניית בינה מלאכותית אחראית

ד

ד"ר עבדאלה קבלאן הוא יזם סדרתי ומומחה פינטק עטור פרסים. הוא מתמחה בשימוש בבינה מלאכותית ולמידת מכונה בתכנון מערכות פיננסיות מורכבות.

לאורך הקריירה שלו, הקים מספר סטארטאפים וחברות המתמחות בלימוד עמוק, שידוכים מקצועיים ופינטק. יתר על כן, ד"ר קבלאן הוא בוגר חברת Microsoft Ventures, בריטניה ועבד על פרויקטים שהוצגו בפורום הכלכלי העולמי 2017 בדאבוס. המיזמים האחרונים שלו הם Wyzer.ai וקבוצת Caledo.

ד"ר קבלאן הוא גם אקדמאי באוניברסיטת מלטה, שם הוא מרצה וחוקר נושאים הקשורים למודיעין חישובי, הנדסה פיננסית ומדעי נתונים פיננסיים. במהלך הדוקטורט שלו. מחקרים שנערכו בין השנים 2007-2011, חקר ד"ר קבלאן את אלגוריתמי החסימה הקריפטוגרפיים שמאחורי הביטקוין (המכונה כיום בלוקצ'יין) והוא מומחה בעל שם בתחום ספרים מבוזרים. יתר על כן ד"ר קבלאן מייעץ לממשלות בנושאים הקשורים לפיתוח אסטרטגי ולשימוש בטכנולוגיות, פינטק וטכנולוגיות בלוקצ'יין / DLT. בשנת 2018 השיק ד"ר קבלאן את פסגת DELTA שהפכה לאירוע הרשמי של מלטה בנושא DLT וחדשנות דיגיטלית.

הוא ישב עם עלי דיקר עצמו של הנדסה מעניינת בכנס The Web Web 2019 בשבוע שעבר כדי לדון במצב הנוכחי של בינה מלאכותית והאם היא מהווה איום על האנושות או לא. הראיון נערך בקלילות לשם הבהרה.

עלי דייקר: שלום ד"ר קבלאן, אני שמח שאתה יכול להיות איתנו אחר הצהריים. רציתי שנתחיל על ידי דיון בקטע שכתבת ב- TechCrunch לפני כמה שנים על האופן שבו AI אינו מהווה איום על החברה והעולם בכלל. קודם כל, יש אנשים שהם די פסימיים ביחס לבינה מלאכותית מכיוון שאפשר לנשק אותה ואף יכול להיות קטלני מאוד, אבל יש אופטימיסטים שמאמינים ש- AI ישנה דברים לטובה. ביצירה שלך אתה אומר שעלינו להגדיר מחדש חלק מהמושגים, למשל תודעה, ככל שאנו מתקדמים בהמשך הדרך לבינה מלאכותית; מה לדעתך צריך להגדיר מחדש ואיך ולמה לדעתך עלינו להגדיר מחדש את המושגים האלה עבור AI?

עבדאלה קבלאן: ראשית, תודה שיש לי עלי. בכנות, היצירה שלי לא הייתה אופטימית כמו שהכותרת מרמזת. אז אמרתי ש- AI אינו איום על האנושות אלא אינטרנט של דברים חכמים, אולי. הסיבה שניסחתי את זה ככה היא בגלל שאני באמת מאמין שזה יכול ללכת לשני הכיוונים. אנו נמצאים על פרשת דרכים של ההיסטוריה האנושית, שם החלטות מסוימות צריכות להתקבל כעת מנקודת מבט אסטרטגית שעשויה להשפיע על עתידה של האנושות.

עכשיו דיברתי על מושגים שונים ואחד מהם הוא התודעה. השגת תודעה בחזית הדיגיטלית היא קשה להפליא ומורכבת להפליא. זה בעיקר בגלל שהתודעה, כמו אינטליגנציה, היא משהו מופשט למדי וקשה מאוד להגדיר מהי תודעה. עם זאת, מה שאני מתמקד כרגע הוא בעצם יותר על השגת חוכמה ויצירת מערכות נבונות יותר מאשר על יצירת מערכות חכמות ואנסה להסביר מדוע.

הבעיה שהייתה לנו ב- AI באופן כללי יורדת לשורשים של הבנת נתונים. נתונים, לדעתי האישית, הם תהליך בן חמישה שלבים; את מחזור החיים של הנתונים, אם תרצו. אז אתה מתחיל בנתונים; אתה מעבד נתונים וזה הופך למידע; מידע עם הזמן מתפתח לידע; ידע עם תרגול הופך להבנה של תחום הבעיה; ואז יש משהו שעם תרגול של עיבוד והבנה ואינטליגנציה מתפתח לחוכמה.

הרוב המכריע של מערכות ה- AI מבחינה היסטורית עדיין תקוע בהיותן ידע מהולל מודיעיני ולא השיגו את שלב החוכמה וההבדל ברור למדי: ידע הוא ההבדל בין אמת לשקר אך חוכמה היא ההבדל בין נכון לשגוי.

חבר טוב שלי אוהב לומר כי הידיעה היא הידיעה שעגבניה היא פרי, אבל החוכמה היא הידיעה שלא להוסיף אותה לסלט פירות. מבחינה היסטורית, AI לא הצליח להבין את הקשר או ההיסק לצד החוכמה. הסיבה לכך היא שבמשך 40 עד 50 השנים האחרונות בתחום ה- AI, מירוץ החימוש היה בעיקר ליצור את איינשטיין הבא, המודל המתמטי הטוב ביותר שיכול לפתור בעיה כמו הכאת אלוף העולם בשח 'או גו.

במקום ליצור איינשטיין היינו צריכים להתמקד ביצירת אריסטו שמבין את ההיבטים השונים של האינטליגנציה, לא רק את האינטליגנציה האינטלקטואלית והמתמטית אלא גם את האינטליגנציה החברתית, האינטליגנציה התרבותית והאינטליגנציה הרגשית. הסיבה מדוע אלה לא נפתרו אינה משום שהם בלתי ניתנים לפיתרון, אלא שאף אחד לא התמקד בהם.

אז עכשיו אני שייך לחשיבה שבמקום להתמקד בבינה מלאכותית, עלינו להתמקד בחוכמה מלאכותית; ליצור מערכות שעל פי תכנון הולכות בדרך מיטיבה במקום דרך הרסנית. כבני אדם, אנו מאוד פגומים; לא צריך גאון כדי להבין שאנחנו לא רציונליים, אבל כצפוי אנחנו לא רציונליים. אנו נושאים את זרעי ההרס העצמי שלנו מכיוון שלאורך ההיסטוריה שלנו, קיבלנו כל כך הרבה החלטות שגרמו סבל וייסורים ואם תהיה אינטליגנציה מעולה היא תבין שאנחנו די פגומים וזו תהיה בעיה עבורנו.

כחבר באנושות הצוותית, אני צריך לשמור על עתיד המינים שלנו ואני יודע שזה בלתי נמנע שאם המיקוד יהיה על אינטליגנציה, ישות אינטליגנטית תממש את פגמינו ותנצל אותם. אם ההתמקדות היא בחוכמה, ישות חכמה יותר או יצירה נבונה יותר יידעו שהשמדת האנושות אינה טובה לאיש משום שבסופו של יום, האנושות היא צורת חיים ואין להתעסק בה באופן עקרוני.

העניין הוא שבני האדם עצמם עשו זאת ליצורים אחרים. האופן שבו התייחסנו היסטורית לא רק לבעלי חיים אלא זה לזה - למרות שאנחנו מאוד אינטליגנטים - יכול לקרות לנו דווקא אם נגיע לרמה של ייחוד או אינטליגנציה מכונה שעולה על האינטליגנציה האנושית בלי להתמקד בחוכמה. אז ההתמקדות בצד הרגולטורי, ההתמקדות בצד האתי מבחינת הפיתוח היא מכריעה למדי.

אומות העולם צריכות לשים לב לכך יותר לפני שיהיה מאוחר מדי. קחו לדוגמא את תעשיית הרכב, במשך כל כך הרבה שנים לא היו לנו חגורות בטיחות והיו הרבה אנשים שאמרו ליצרניות הרכב שאתם צריכים חגורות מכיוון שהסטטיסטיקה מראה שאם אתם לא חגורים, אתם מתים . יצרניות הרכב התנגדו לתקנה זו במשך זמן רב עד שבאמת היה עליהן להכריח חגורות בטיחות במכוניות.

עכשיו, הרבה אנשים מתו ללא חגורות בטיחות, אבל זה לא גרם לאנושות להיכחד. הבעיה עם AI היא שעד שאנשים יבינו שצריך להסדיר את זה, זה כבר יהיה מאוחר מדי. איש אינו יכול לחזות את העתיד, אך עלינו להיות בעלי ראייה אסטרטגית כיצד זה יכול להתפתח אם איננו אחראים.

במלטה, היכן שאני מתבסס ומאיפה אני, הממשלה הקימה בשנה שעברה כוח משימה לאומי למדעי המחשב בכדי לחקור את ההשלכות הפוטנציאליות של אימוץ בינה מלאכותית המונית ובמקביל לעודד אותה ולהעלות לאומית. אסטרטגיה שתמשוך מפתחי AI ופרויקטים של AI לבוא ולהתחדש ממלטה, אך בגבולות הרגולציה שלנו ובתוך אסטרטגיה לאומית המתחשבת בצד האתי של הפיתוח, בצד הקניין הרוחני וכל זה.

אני חושב שזה צריך להפוך לדיון עולמי ורק אם מוקד המחקר והפיתוח הוא יותר לכיוון החוכמה, שם אנחנו נפצח את התודעה, אנחנו נסדוק דברים כמו אינטליגנציה רגשית, הצד האינטיליגנטי החברתי של הדברים. זה לא קשה, כי אנחנו בשלב מאוד מוקדם. AI אינו חדש, הוא היה קיים עוד מימי אלן טיורינג, אך התמקדו בצד אחד ושכחנו 80% מהבעיה האמיתית.

זה מובן כי גם בבית הספר כשאתה אומר "אה התלמיד הזה הוא אינטליגנטי!" כי אותו סטודנט מקבל את הציון הגבוה ביותר אבל זה לא אומר שהם התלמידים הכי אינטליגנטים. זה משקף את דרך החשיבה הלא רציונאלית שלנו.

מוֹדָעָה: כיצד נקבע מה סביר לבינה מלאכותית? לדוגמא, אצל יצחק אסימוב אני רובוט הייתה לך בינה מלאכותית שהגנה על בני האדם מפני בני אדם אחרים. במקרה זה, בינה מלאכותית טובה עבור בני אדם מסוימים ומניעה לאחרים.

AK: זה קשה מאוד מאוד לדעת. כפי שאמרתי, AI הופך חכם יותר, הוא מתקדם יותר, אבל אפילו בני אדם מתקדמים מעבר לאמונה. אני יכול אפילו לטעון שכבני אדם כולנו סייבורגים כרגע מכיוון שההגדרה של סייבורג היא מישהו שיש לו איזשהו שיפור קיברנטי בגופם. יש לנו את המכשירים האלה שאנחנו מחזיקים בידינו כל הזמן ואם אתה חושב על זה מבחינה היסטורית, היו לנו מחשבי מיינפריים, אז היו לנו מחשבים אישיים, אז היו לנו מחשבים ניידים, ואז היו לנו מכשירי אייפון, ואז היה לנו גוגל גלאס - וזה היה קצת זמני - אבל זה רק שאלה של זמן עד שהדברים האלו ייכנסו לגופנו וכולנו נחתכים.

לדעתי האישית, יש גם התקדמות בצד האנושי, אבל זה מפחיד אותי אפילו יותר מ- AI להיות הרבה יותר אינטליגנטי. למרבה הצער, אם בני אדם יתקדמו יותר בצד הקיברנטי במידה כזו, זה יביא להבחנה אליטיסטית גדולה בין אנשים, העשירים יותר יוכלו להרשות לעצמם את השבב היקר יותר, החכם והטוב יותר. הברירה הטבעית תתחיל למעשה להעדיף את העשירים על פני הבריאים או החכמים יותר וזו לדעתי בעיה גדולה.

בחלק השני על AI שמגן על בני אדם מפני בני אדם, זה טיעון פילוסופי עמוק מאוד. בסופו של דבר אנו הולכים להגיע לשם - ושוב נחזור לרגולציה - עלינו לצפות את המגמות הללו כעת ולנסות להמציא חוקים על מנת שלא נגיע לסוג כזה או תרחיש.

מוֹדָעָה: אז השאלה הבאה היא לגבי בלוקצ'יין. כיצד טכנולוגיית הבלוקצ'יין תעזור לייצר בינה מלאכותית טובה יותר?

AK: זו שאלה טובה מאוד. לכן אני מאמין שבקרוב תהיה התכנסות בין תחומים שונים, כלומר Blockchain, AI ו- IoT. בחזית הספציפית הזו עלינו להבין שבחזית הבלוקצ'יין, בניגוד ל- AI, אנחנו נמצאים בשלב מוקדם מאוד, מוקדם, כמו האינטרנט בשנות השמונים ובתחילת התשעים המאוד.

אז האינטרנט היה קיים כפרוטוקול כמעט 30 שנה, TCP / IP, רק עד שהמצאה אחת משובחת בתחילת שנות ה -90 הזניקה את האינטרנט למקום אחר לגמרי, והמצאה זו הייתה דפדפן האינטרנט. ביום שהיה לנו הדפדפן הראשון, התחלנו לממש את הפרוטוקול הזה, TCP / IP, בצורה בלתי נתפסת בגלל כל האינדקס הזה שדיברנו עליו ברמת קוד, עכשיו אנחנו יכולים לדמיין אותו ולחפש, אנחנו יכולים לשאול, זה הפך הרבה יותר פשוט. עם Blockchain לא השגנו את זה, אבל זה בסדר, זה בריא, ואנחנו יודעים שאנחנו באמת הולכים לשם ובסופו של דבר נגיע לשם.

בלוקצ'יין, כידוע, הוא תהליך ספר מבוזר שעדיין מתמקד באחסון נתונים, הוא עדיין לא הגיע לצד העיבוד. אני באופן אישי מאמין שבקרוב נפתח - וכשאני אומר בקרוב, אני אומר בין חמש לעשר שנים - בלוקצ'יין יפתח ארכיטקטורות מתוחכמות הרבה יותר, ארכיטקטורות טכנולוגיות מבוזרות מבוזרות, שלא יאפשרו רק אחסון אלא גם עיבוד. זה בצד השני ישפר את היכולות של רכישת נתונים, ניהול ועיבוד מעבר למה שיש לנו כרגע, מה שאומר שמערכות AI הולכות ומשתפרות לרמה בלתי נתפסת.

אם AI משתפר, נחזור לוויכוח האם AI יהפוך לאיום על האנושות; עם זאת, אני באמת מאמין שבלוקצ'יין הוא פיתרון מדהים עבורנו מכיוון שיש לנו הסכמה עם בלוקצ'יין וכאשר יש לך קונצנזוס אתה יכול לקבל איזושהי שליטה. אם AI מתכוון להשתולל, באופן קולקטיבי הוא לא ישיג קונצנזוס ומכאן שהוא לא יוכל לבצע משימות מסוימות ברשת כי היינו יודעים שזה לא צריך לקרות כי זה לא לטובת כל כולו. רֶשֶׁת.

אז בלוקצ'יין, מכיוון שיש לנו את מנגנוני הקונצנזוס האלה אני מקווה שתהיה לנו צורה כלשהי של אינטליגנציה בהוכחת עבודות, הוכחת סכומים, והשגת קונצנזוס, כך שבעוד חמש, עשר שנים יהיה שיפור רב בזה הטכנולוגיה הנוכחית. זה יעזור לנו לבצע ולהבחין בין לא נכון ושקר, אלא נכון ולא נכון, ואם ההחלטה שלך לבצע פעולה מסוימת ברשת מזיקה, אז לא תשיג צורה זו של קונצנזוס.

אז אני חושב שבלוקצ'יין הוא פיתרון טוב מאוד ועלינו כמפתחים לחשוב על זה עכשיו. אמרתי לפני שטעינו עם AI שאני חושב שאנחנו צריכים להכיר, שבאמת הלכנו בדרך הלא נכונה עם AI, ועם blockchain עלינו להיות אחראים ולקיים את השיחות האלה ולהכיר בכך שבלוקצ'יין לא יקיים לבד; בקרוב ה- AI מתכוון להשתלב ולהתקדם יחד עם זה. אז בואו ניצור את מנגנוני הקונצנזוס שלנו לא רק כדי לעשות הוכחות אלה המאמתות עסקאות פיננסיות - שכולן נהדרות - אלא כשמדובר בעיבוד, כאשר אנו מכירים בכך שכשיש איזושהי פעולה כלשהי שאינה מיטיבה, אנו עוצרים זאת.

קל יותר לומר מאשר לעשות, אבל אם נקבל מספיק מוח טוב כדי לפתור את זה, זה לא משהו שלא ניתן לפתור. כל מה שאנחנו עושים זה רק לעכב את הבלתי נמנע, בסופו של דבר נהיה במצב שבו AI עולה על האינטליגנציה האנושית, אבל אם אנחנו יכולים לעכב אותו או לשלוט בו באופן שמוריד מאיתנו את רוב הנזק, אז זה יהיה נהדר.

מוֹדָעָה: אבל בואו נגיד שרוב מקבל החלטה רעה לגבי האופן שבו ניתן לשלב AI ו- blockchain, לגבי התהליך. בהחלט נראה שרוב הרוב נוטים לקבל החלטות רעות, איך נתמודד עם זה?

AK: זו שאלה מצוינת היורדת לעקרונות הליבה של דמוקרטיה וקבלת החלטות. אני חושב שאנחנו צריכים לקבל כמה צורות אמצעי הגנה לפחות מבחינת הדברים הברורים מאליהם. אם הרוב מקבל החלטות שאנו יודעים שעלולות לפגוע באנשים, לא רק פיזית אלא אפילו כלכלית, אין לאפשר זאת; גם אם הרוב חושב שזה הדבר הנכון לעשות.

שוב, הצד השלילי של זה הוא שאנחנו משיגים איזושהי מערך עריצות שבו המערכת חזקה יותר מהאנשים. אני לא במצב מספיק טוב כדי לקבוע שיקול דעת שאני מרגיש מספיק חזק לגביו אבל אני יודע שזו בעיה שצריך לדון ולפתור אותה ולכן אני חושב שצריך לקרות יותר דיאלוג ויותר מחקר.

אשמח להקדיש יותר זמן רק לשבת ולחשוב על זה, אבל הבעיה שיש לכולנו היא שברור שבחיים יש כל כך הרבה דברים אחרים שקורים. אני חושב שצריך להיות אנשים שמקדישים את זמנם רק לחשוב ולפתור בעיות כאלה מכיוון שאתה צודק לחלוטין, ההיסטוריה מלאה ברוב המקבלים החלטות שלא היו שגויות עבור הרוב אבל לא היינו מכנים כאלה טובים החלטות.

מוֹדָעָה: אני רוצה לחזור לדברים שאמרת קודם לכן, שלא ננסה ליצור יותר איינשטיין, אלא עלינו ליצור יותר אריסטו. AI מתפתח בצורה כזו שיש לנו AI המלחינים מוזיקה - הם משקפים את דרכם של כמה מוחות יצירתיים כמו מוצרט או בטהובן - אבל זו לא יצירתיות אמיתית. האם אתה חושב ש- AI יפתחו יצירתיות אמיתית כמו בני אדם בשלב כלשהו, ​​יפתחו מושגים חדשים, דברים כאלה?

AK: אני בהחלט חושב שזה אפשרי, ולחזור למה שאמרתי, ליצור אינטליגנציה מלאכותית נבונה יותר - או חוכמה מלאכותית - היא למעשה חלק מזה. כרגע, גם אם יש לנו אותם AIs מבריקים שמלחינים מוזיקה, אם תשאלו את אותו AI "מהי בירת אסטוניה?" היא לא יודעת על מה אתה מדבר כי היא נוצרה למטרה ספציפית אחת.

זה מה שמראה שאנחנו עדיין מסתכלים על אינטליגנציה צרה במקום על צורה רחבה יותר של אינטליגנציה. כרגע קשה מאוד להשיג את ה- AI שהכה את אלוף העולם האנושי בשחמט להכין כוס קפה במטבח שמעולם לא נראה. או אולי - תסלחו על הדוגמא הזו, אולי אל תשתמשו בה - אבל אחת הבעיות המעניינות היא בחירת המשתנה הנכונה בחדר אמבטיה שמעולם לא ראיתם, מכיוון שכמות האינטליגנציה האנושית שנכנסת לתהליך זה די מדהימה.

אם אתה נכנס ויש חמש שתן, אתה לוקח את זה בצד. אם מישהו נכנס, סביר להניח שהוא לא ייקח את זה לידך, הוא ילך לאחד כמה רווחים, וכן הלאה. יש הרבה חישובי הסקה שלא רק אינטליגנציה, החברתית, הרגשית, התרבותית שלה, ואתה צריך לחיות את זה, להבין את זה ולהבין את זה יותר מהתרגול.

כך שיש לנו עם AI היינו צרים למדי, אפילו מנקודת מבט של דוגמנות מתמטית, מכיוון שיש שיגידו שאנחנו רוצים לפתור את בעיית השחמט, בואו נשתמש ברשת עצבית. יש שיגידו בואו ניצור מזגן לבקרת אקלים, בואו נשתמש בהיגיון מטושטש. אנו רוצים ליצור AI שיכול לרכוב על אופניים, בואו נשתמש בלמידת חיזוק.

מוֹדָעָה: אתה יכול להרחיב קצת על אלה?

AK: בטוח. למידת חיזוק יפה, היא מחקה את הדרך בה בני האדם לומדים. בלימוד חיזוק יש לך שתי פונקציות מתמטיות, פונקציית התגמול ופונקציית העונש, כך שהיא דומה מאוד לאופן שבו המוח האנושי עובד. אז אם אתה רוכב על אופניים ואתה עושה מהלך לא נכון, אתה נופל, זה כואב לך, הפעלת את פונקציית הענישה שלך ותדע שלעולם לא תעשה את המהלך הזה. אם אתה הולך בקו ישר ואתה שמח שאתה הולך בקו ישר, אתה יודע שככה אתה צריך לעשות את זה כדי שזה יפעיל פונקציית תגמול במוח שלך.

זה אותו דבר עם למידת חיזוק, אז אם אתה טועה, אתה אומר מתמטית שלעולם לא צריך לעשות את זה ואם אתה עושה את הדבר הנכון, מתמטי אומר שתעשה יותר מהתנהגות זו. לדוגמא, ישנם אלגוריתמים גנטיים, מה שאומר שהם מעתיקים מנגנוני ברירה טבעית כדי למצוא את הפיתרון האופטימלי ביותר לבעיה ספציפית כמו ניהול תיקים וכו '.

אז אלה לא עולמות מתכנסים ולכן אני חושב שיש עתיד לכל המודלים המתמטיים האלה ליצור מערכות היברידיות בפועל. אז אין דרך מתמטית להבין דברים כמו שכל ישר או תחושת בטן, אבל היגיון מטושטש הוא המודל המתמטי הקרוב ביותר שיכול להביא אותך לזה. אין מודל מתמטי שילמד ילד לספור בין אחד לעשר, אך רשת עצבית היא הקרובה ביותר לכך. אין מודל מתמטי ללמוד לרכב על אופניים, אך למידת חיזוק מקשרת אתכם הכי קרוב לזה.

אז אם נשלב את כל אלה יחד, נשיג צורה כלשהי של בינה מלאכותית שהיא הרבה יותר מקיפה ותבין פנים שונות בפתרון בעיות שיובילו אותנו לאינטליגנציה רחבה יותר שאינה מתמקדת ספציפית בבעיה ספציפית אחת. אני חושב ששם אנחנו צריכים, שוב, להסתכל על הדברים אפילו מנקודת מבט התנהגותית אגנוסטית, כי עכשיו, ברוב ה- AI, אם יש לי AI שיסחר בשווקים הפיננסיים, אני אכשיר אותו רק עם נתונים פיננסיים. אם יש לי AI שיחזה את מזג האוויר, אני אכשיר אותו רק על נתוני מזג האוויר.

אבל עלינו ליצור AIs שהם נתונים אגנוסטיים מכיוון שאנחנו, כבני אדם, נתונים אגנוסטיים. אז אם תחליט להיות נגר, אתה פשוט לומד לעשות נגרות. אתה לא נולד מהיום הראשון בידיעה שאתה תהיה נגר. כבני אדם, המוח שלנו מחוייט באופן שנוכל ללמוד דברים שונים בו זמנית. עם AI, זה פשוט לא המקרה.

מוֹדָעָה: אז אתה אומר שאנחנו יכולים ליצור AI שיש לו רצונות, כמו - אני לא רוצה לומר את זה אבל זה הדבר הכי קרוב - רגשות? האם זה אפשרי, האם הבנתי נכון?

AK: הרגשות הם דבר מאוד מאוד אנושי.

מוֹדָעָה: אני יודע, אבל מה שאני מגיע אליו הוא שנוכל ליצור AI שיכול להחליט שזה רוצה להפוך לנגר?

AK: אולי, אם הוא נחשף אליו. המפתח הוא כי AI צריך להיווצר באופן שאם אני רוצה להפוך אותו לנגר או לרכב עם נהיגה עצמית, הוא מבוסס על אותם עקרונות הליבה. אז אני לא צריך לבנות את זה מאפס כדי להיות נגר. אני צריך שיהיה לי רכיב ליבה מלאכותי, ואם זה היה מתפתח למכונית עם נהיגה עצמית, הייתי פשוט מוסיף לה את הרכיב לנהיגה עצמית. אם הייתי רוצה שזה יהיה נגר, הייתי פשוט מוסיף את רכיב הנגרות, אבל "המוח" המרכזי של AI צריך להיות אגנוסטי נתונים.

מוֹדָעָה: נגמר לנו הזמן, האם רצית לסכם עם מחשבות סגורות בעניין?

AK: כן, אז כמו שאמרתי, אני לא פסימי ולא אופטימי, אני פשוט מרגיש את כובד האחריות - לא רק על כתפי אלא גם על כתפיו של מישהו במרחב הזה - שעלינו לקבל את ההחלטות הנכונות היום על מנת להגן. מָחָר. זה יכול באמת ללכת לשני הכיוונים וההחלטות שאנחנו מקבלים היום בהחלט ישפיעו על העתיד.

פשוט קחו טלפונים ניידים עכשיו. אנחנו כבר כל כך מכורים אליהם ואין להם שום אינטליגנציה מבחינת האינטראקציה איתנו. תאר לעצמך מה יקרה אם הטלפון יבין עד כמה אתה מכור לאינטרנט, זה יכול לתפעל אותך בדרכים שמעבר לאמונה.

שוב, עלינו להיות אחראיים, כמו כל דבר באנושות, יהיו לך אנשים אחראיים ואנשים חסרי אחריות, בגלל זה יש לנו בעיות, בגלל זה יש לנו מלחמות, לכן ההיסטוריה שלנו גדושה במקרים בהם כמעט הרסנו את עצמנו לחלוטין באסונות ש נוצרו על ידינו כבני אדם; כך שתמיד יהיו לך את אלה שאינם אחראים.

הבעיה היא שעכשיו עלינו להחדיר את תחושת האחריות מצד היזמים. אני מאוד אוהב, למשל, איך אם אתה הולך לאירועים כאלה, יותר אנשים משתמשים בכוסות נייר מאשר בכוסות פלסטיק, כי התחלנו להבין שפלסטיק הורס את כדור הארץ. אתה פוגש אנשים עכשיו והם כמו "אל תתן לי כוס פלסטיק, תן לי נייר." נהדר!

בצד המפתחים, אין לנו שום תחושת אחריות כלשהי, זה תמיד היה קשור למה שאתה מרגיש, אז עכשיו יש אסכולה חדשה שאומרת לך, "שמע, מה שאתה עושה, רק אל תזדיין בעתיד!" אז זה המפלט שלי מכל זה.

מוֹדָעָה: תודה עבדאללה, זו הייתה שיחה נהדרת עבורי.

AK: כמו כן עלי, זה היה מאוד מגרה אינטלקטואלית, תודה.


צפו בסרטון: לא תאמינו מה אמרה הרובוטית החכמה בעולם על ישראל! (יוני 2021).