מעניין

OpenAI הוציאה פשוט אלגוריתם מזויף של כתיבת חדשות מזויפות

OpenAI הוציאה פשוט אלגוריתם מזויף של כתיבת חדשות מזויפות

OpenAI, חברת ה- AI שהקים אילון מאסק ואז עזבה את החברה, פרסמה זה עתה גרסה חזקה יותר של תוכנת כתיבת הטקסט AI שלה.

החברה עדיין לא תשחרר את התוכנה המלאה שלה - שניתן להשתמש בה כדי לכתוב חדשות והודעות מזויפות בהמוניהם - בגלל החשש שהיא עשויה להיות מנוצלת לרעה.

קשורים: מיקרוסופט להשקיע סכום של 1 מיליארד דולר בשותפות אופנית

מה עושה OpenAI?

OpenAI אומרת שמערכת כתיבת הטקסטים שלה כל כך מתקדמת שהיא יכולה לכתוב סיפורי חדשות ואפילו בדיה שעוברת כאנושית.

משתמש יכול להזין את טקסט המערכת - כל דבר, החל מכמה משפטים ועד לדפים שלו - והמערכת תמשיך באותו טקסט בסגנון אנושי בעל יכולת כתיבה טובה, רלוונטית להקשר.

עם זאת, לאחר שחרור המערכת המקורית שלה, GPT-2, בפברואר, החברה אמרה שהתוכנה המלאה מסוכנת מכדי להוציא אותה לציבור - גרסה חלשה יותר הועמדה לרשותה.

כעת, החברה הודיעה כי פרסמה גרסה של GPT-2 חזקה פי שישה.

אתה באמת יכול לנסות את מערכת OpenAI הציבורית האחרונה ב- TalkToTransformer.com. התוצאות יכולות להיות מציאותיות להפליא - אם כי בכתיבה יש פגמים ברורים.

OpenAI עדיין נזהרת

על פי הצהרת OpenAI, עדיין קיימת גרסה חזקה עוד יותר של GPT-2 שהחברה טרם חשפה.

החברה אומרת כי היא מתכננת לשחרר את המודל החזק יותר בתוכו כמה חודשים, אך יתכן שלא אם יקבע שאנשים משתמשים ב- GPT-2 החדש והחזק יותר בזדון.

בזמן ההודעה המקורית על שחרורו של GPT-2 בפברואר, אמר ג'ק קלארק, ראש המדיניות של OpenAI.האפוטרופוס ישנם "אנשים רבים הטובים מאיתנו לחשוב מה [ה- AI] יכול לעשות בזדון."

אפשר להשתמש בו, למשל, כדי ליצור ביקורות אינסופיות חיוביות או שליליות מזויפות - כאילו נכתבו על ידי אדם אמיתי.

תרופה לחדשות מזויפות?

בעוד ש- OpenAI מקרב אותנו לשליטה עולמית של AI, קבוצה של חוקרי הרווארד ו- MIT פיתחה שיטה לשימוש ב- AI להילחם ב- AI.

החוקרים פיתחו מערכת, המכונה GLTR, המשתמשת באלגוריתם כדי לעקוב אחר הסבירות שמעבר נכתב על ידי AI או לא.

מעניין יהיה לראות אם GLTR יתמודד אי פעם עם הגרסה החזקה ביותר של GPT-2 - אם היא תשוחרר אי פעם לציבור, כלומר. מלחמות ה- AI עשויות לבוא.


צפו בסרטון: בת מצווה רוני - קליפ אנימציה (אוֹקְטוֹבֶּר 2021).