מֵידָע

חוקרים מגלים שאתה יכול לאמן AI ליצור נאומים מזויפים של האו"ם בפחות מ- 13 שעות

 חוקרים מגלים שאתה יכול לאמן AI ליצור נאומים מזויפים של האו

תובנות חדשות בעולם הבינה המלאכותית (AI) גובלות תמיד בשולי המצמרר ו"זה מרתק ". AI ויישומו מתפשטים באינספור תעשיות ומדיומים.

AI וטכניקות הלמידה העמוקות שלו שימשו ליצירת אמנות, גילוי סרטן, יצירת פנים ואפילו קולות אנושיים אמיתיים. עכשיו בעידן הקרוב של אפוקליפסה AI, תובנות חדשות העניקו לנו הצצה למידה עמוקה חדשה יכולה לעשות בשלל תחומים כולל פוליטיקה.

קשורים: מה ההבדל בין לימוד מכונות ו- AI?

הרעיון של פוליטיקאי AI עשוי להישמע כמו משהו מעונה ברמה B של תוכנית טלוויזיה מדע בדיונית או להזכיר לך את בראן המפסק שלוקח את כס הברזל במשחקי הכס (תחשוב על זה. הוא בעצם מערכת AI). אבל זו למעשה אפשרות אמיתית.

לאחרונה חוקרים מהדופק העולמי של האו"ם החליטו לגלות כמה קל לכל אחד להשתמש בטכניקות למידה עמוקה יחסית יחסית כדי ליצור מידע מוטעה משכנע. התוצאות עלולות לזעזע אותך.

הפצת מידע מוטעה עם אינטליגנציה מלאכותית

במסגרת מחקר שפורסם לאחרונה באוניברסיטת קורנל, החוקרים השתמשו בכלי קוד פתוח ובאוסף גדול של נתונים כדי להראות כמה מהר הם יכולים להפעיל מחולל דיבור מזויף של האו"ם. איך הם עשו את זה אתם שואלים?

הצוות קיבל מודל שפה זמין. המודל הנפוץ הזה הוכשר בוויקיפדיה, ומאוחר יותר האכיל 40 שנה של נאומים שנשאו על ידי מנהיגים פוליטיים באסיפה הכללית של האו"ם.

עם לא יותר מ -7.80 דולר שהוצאו על שירותי ענן וקצת יותר מחצי יום (13 שעות בלבד), פוליטיקאי הבינה המלאכותית שלהם נשא נאומים שיהיו חזקים מספיק כדי לעסוק בהמון באו"ם כיום. מחולל הדיבור יצר נאומים שנעו בין נושאים רגישים ובעלי סכום גבוה, כולל פירוק נשק גרעיני ושינויי אקלים.

לצורך המחקר החוקרים בדקו את המודל בשלושה סוגים של הנחיות: נושאים כלליים, שורות פתיחה מדברי מזכ"ל האו"ם וביטויים דלקתיים. מודל הלמידה העמוקה הצליח אפילו להוריד את הקצב של נאומים אמיתיים של האו"ם 90% מהזמן.

אבל למה?

אז מדוע מחקר זה חשוב? טכניקות AI נגישות מתמיד. ויש סיכוי טוב בעתיד הקרוב, ללא מעט משאבים, אנשים יכולים ליצור נאומי AI ותוכן פוליטי כדי להפיץ מידע מוטעה או פשוט להשתמש בו לצורך רווחים פוליטיים. מחקר זה הוא קריאה להשקיע מאמץ רב יותר באיתור ותגובה לתוכן שנוצר על ידי AI.


צפו בסרטון: Cool Places To Visit In Utah. Vernal Utah (דֵצֶמבֶּר 2021).