מֵידָע

צוות ה- AI של מיקרוסופט משחרר בוט שיכול ליצור תגובות מזויפות, האינטרנט שואל מדוע

צוות ה- AI של מיקרוסופט משחרר בוט שיכול ליצור תגובות מזויפות, האינטרנט שואל מדוע

באופן מוזר, צוות במיקרוסופט פרסם עבודה על בוט AI, שנקרא DeepCom, ובאמצעותו ניתן ליצור הערות מזויפות על כתבות חדשותיות.

הצוות אומר כי הערות מזויפות אלה יכולות ליצור מעורבות עבור אתרים חדשים וכדורי חדשות, ובעצם מעודדים שימוש בחשבונות מזויפים כדי ליצור מעורבות אמיתית עם דיונים מזויפים.

קשורים: כלי AI חדש יכול לעזור לנו להילחם בחדשות מזויפות של AI

האם אנחנו צריכים את זה?

התשובה הקצרה. לא.

האינטרנט כבר שופע חשבונות ובוטים מזויפים, המשמשים לטרול וליידע את הציבור הרחב.

נראה כי השאלה שצוות החוקרים מאוניברסיטת מיקרוסופט ואוניברסיטת בייהאנג בסין שואלת היא: מה הפגיעה בשימוש בתגובות מזויפות כדי לעורר ולעודד דיון אצל קוראי חדשות אמיתיים?

החוקרים טוענים כי הקוראים נהנים לפרסם תגובות תחת כתבות חדשות ולשתף את דעתם. מבחינת מפרסמים זה מגביר את המעורבות, אז למה לא לתת לכול דחיפה המופעלת באמצעות AI?

"מערכות כאלה יכולות לאפשר שירות הערות לאתר חדשות מההתחלה הקרה, לשפר את חוויית הקריאה עבור מאמרים חדשים עם פחות תגובות, ולהעשיר רשימות מיומנות של יישומי בינה מלאכותית אחרים, כמו צ'ט-בוטים", אומר העיתון.

מאמר של חוקרי בייג'ינג מציג טכניקה חדשה ללימוד מכונה שהשימושים העיקריים שלה הם טרול ודיספורמציה. הוא התקבל לפרסום ב- EMLNP, אחד משלושת המקומות המובילים למחקר עיבוד שפות טבעיות. מגניב מגניב מגניב https://t.co/ZOcrhjKiEcpic.twitter.com/Y8U5AjENrh

- ארווינד נראיאן (@random_walker) 30 בספטמבר 2019

המלכוד הוא שהעיתון החדש, שפורסם ב- arXiv, אינו כולל אזכורים לשימושים זדוניים אפשריים, או הסכנות שהטכנולוגיה עלולה לסייע בהפצת חדשות מזויפות. כמה מבקרים כבר הביעו את חששותיהם.

רשתות עצביות קוראות חדשות

כפי ש הקופה מדווח, DeepCom מעסיקה במקביל שתי רשתות עצביות: רשת קריאה ורשת ייצור.

כל המילים במאמר חדשות מקודדות כווקטורים לניתוח AI. רשת הקריאה קולטת את מה שהיא מחשבת הם ההיבטים החשובים ביותר במאמר (אדם, אירוע או נושא), לפני שהרשת המייצרת יוצרת תגובה על סמך זה.

החוקרים הכשירו את DeepCom על מערך נתונים סיני המורכב ממיליוני תגובות אנושיות שפורסמו על מאמרים חדשותיים ברשת, וכן על מערך נתונים באנגלית ממאמרים ב- Yahoo.! חֲדָשׁוֹת.

הדוגמה שלמעלה מציגה חלקים חשובים של יאהו! מאמר המודגש באדום (רשת הקריאה), ועל מה הבוט בוחר להגיב בכחול (הרשת המייצרת).

עוד בוט שנוי במחלוקת

זה לא המברשת הראשונה של מיקרוסופט עם מחלוקת בוטים. המפורסם שהיה צריך להוריד את בוט ה- AI שלהם "טיי" לפני שלוש שנים, לאחר שלמד במהירות לצייץ ציוצים גזעניים, הומופוביים ואנטי-פמיניסטיים לאחר שהוכשר במאגר עצום של ציוצים.

היה צורך להוריד את טיי כעבור 16 שעות בלבד בגלל השפיכה הלא רצויה של ציוצים שונאים. נראה כי הכשרת AI על פרשנים מקוונים - אנשים שלעתים קרובות מאבדים את כל העכבות בזכות האנונימיות שלהם - הם בכל זאת לא רעיון כל כך טוב.

נראה כי יש צורך בעבודה נוספת לפני ש- DeepCom תוכל באמת לעורר מעורבות או ליצור הערות שיכולות לשמש לשיבוש החברה בקנה מידה גדול. לעת עתה, ההערות שנוצר על ידי הבוט AI הן קצרות ופשוטות.

המחקר, עם זאת, התקבל ל- EMNLP-IJCNLP, כנס בינלאומי לעיבוד שפות טבעיות, שייערך בהונג קונג בחודש הבא (3-7 בנובמבר).

בינתיים, חוקרי MIT יצרו כלי AI, שנקרא Giant Language Model Test Room (GLTR), שיכול לזהות טקסט כתוב AI. ייתכן שיהיה עליהם להתחיל להגביר את המשחק.


צפו בסרטון: This Robot would let 5 People die. AI on Moral Questions. Sophia answers the Trolley Problem (אוֹקְטוֹבֶּר 2021).