בינה מלאכותית

מגזין שמספר לכם/ן הכל על בינה מלאכותית (AI)

גלו את כל החידושים בעולם ה- AI, הכלים הכי שווים, איך לעשות כסף עם בינה מלאכותית ועוד המון עדכונים וכתבות מעניינות.

  • ChatGPT: היי, אני ChatGPT בעברית

אני חושב ...

רוצים להפוך טקסט לתמונה בלחיצת כפתור? נסו את מייצר תמונות Dell-E בעברית

CazOSK4

כיצד ChatGPT מתייחס לחששות אתיים כמו הטיה?

Facebook
Twitter
WhatsApp

במשך עשרות שנים התמודדו חברות אנושיות עם הדרך הטובה ביותר לבטל או לצמצם סוגים שונים של הטיות. כשהעולם נכנס לעידן של בינה מלאכותית (AI), סוגיית ההטיה נותרת נצחית, כעת מובאת לאור חדש כאשר AI מפגין הטיה בתפקודם, לעתים קרובות משקף ומגביר את הדעות הקדומות האנושיות. כשמדובר במודלים של בינה מלאכותית בשפה כמו ChatGPT, שפותחה על ידי OpenAI, המושג 'הטיה' מתגלה בשני מימדים: הטיות קיימות של מקור נתונים וכאלה שעולות מדינמיקת האימון של המודל. מתוך הכרה בהשפעה המכרעת של הפחתת הטיה, OpenAI חתרה לטפל בבעיה זו כדי לבנות כלי בטוח יותר, יעיל יותר ואמיתי מבחינה אתית.

אחת הדרכים העיקריות שבהן ChatGPT מטפל בחששות אתיים הקשורים להטיה היא באמצעות תהליך דו-שלבי של אימון מקדים וכיוונון עדין. תהליך ההכשרה המקדים כולל למידה של המודל מכמות עצומה של טקסט אינטרנטי. בהתחשב בכך שנתוני ההדרכה הם קורפוס של טקסט אינטרנטי, הם נשארים אנונימיים ואינם מכילים מסמכים או מקורות ספציפיים. עם זאת, נתונים אלה, כמו כל צורה של נתונים באינטרנט, יכולים להכיל הטיות שונות, שכן הם משקפים את החברה שלנו על כל מעלותיה וחסרונותיה. אף על פי כן, הוא קובע את השקפתו הראשונית של המודל על השפה והעולם.

OpenAI עוברת לשלב הבא של כוונון עדין של המודל על מערך נתונים ספציפי יותר, שנוצר בעזרת בודקים אנושיים העוקבים אחר הנחיות קפדניות המונעות העדפה לכל קבוצה פוליטית או חברתית. ההנחיות מנחות במפורש את הסוקרים לא להעדיף אף קבוצה פוליטית ונועדו להתמודד עם מלכודות ואתגרים פוטנציאליים הקשורים להטיה ולנושאים שנויים במחלוקת.

יתרה מכך, OpenAI מקיימת לולאת משוב עם הסוקרים שלה הכוללת פגישות שבועיות המשמשות לטיפול בשאלות, לספק הבהרות ולשפר את המודל באופן איטרטיבי. מערכת זו מספקת דרך שימושית לשפוך אור על כל הטיות שעלולות להופיע בשוגג ומשפרת את הפוטנציאל לתקן אותן. מערכת יחסים מתמשכת זו מחזקת את יכולתו של המודל להבין את מדיניות השימוש והיושרה של OpenAI ולדבוק בה, מפחיתה הטיה ומבטיחה הוגנות.

ChatGPT עוסק גם בהטיות באמצעות ההתנהגות הניתנת להתאמה אישית. OpenAI שואפת לאפשר ל-AI להסתגל לערכי משתמש בודדים בגבולות רחבים. עם זאת, כדי למנוע שימוש לרעה בטכנולוגיה והסכנה שבינה מלאכותית יעצימה ללא שכל את האמונות הקיימות של אנשים, יש וצריך תמיד להיות מגבלות על התנהגות המערכת. משמעות הדבר היא תכנון מכוון של מודלים של AI כדי לסרב לייצר סוגים מסוימים של פלטים, גם אם חלק מהמשתמשים עשויים לרצות להתאים אותם באופן אישי או מזיק.

OpenAI גם משקיעה במחקר ובהנדסה כדי להפחית הטיות בולטות ועדינות באופן שבו ChatGPT מגיב לתשומות שונות, במיוחד בהקשרים טעונים פוליטית. זהו תהליך איטרטיבי שבו הם מחפשים באופן פעיל תשומות מהמשתמשים ומהציבור הרחב יותר ומיישמים שיפורים באופן שבו התנהגויות ברירת מחדל נקבעות ומוגדרות גבולות קשים.

שקיפות בתהליך ובשינויים, ומדיניות הפריסה מספקים מנגנון חשוב נוסף לטפל בהטיה ולהבטיח שימוש אתי בבינה מלאכותית. OpenAI שואפת לתת אחריות על ידי שיתוף היבטים מכריעים של עבודתם עם הציבור באופן המכבד את האינטליגנציה, האוטונומיה והגיוון של קהילת המשתמשים שלה.

OpenAI מכירה גם במגבלות ומתחייבת ללמידה ולשיפור מכיוון שהם שואפים להפוך את ChatGPT לנייטרלי ככל האפשר. הם מבינים שעדיין עלולות להיות טעויות והטיות פוטנציאליות הנובעות מנסיבות בלתי צפויות בשל המורכבות המובנית של שפה ותקשורת. לכן, הם מחויבים לשכלל את מערכת הבינה המלאכותית הזו, ומלווים את צמיחתה במנגנון משוב חזק.

לסיכום, טיפול בחששות אתיים הקשורים בהטיה הוא תהליך רב-גוני. הגישה של OpenAI לטיפול בהטיה ב-ChatGPT כוללת הנחיות מפורטות עבור סוקרים אנושיים בתהליך הכוונון העדין, לולאת משוב איטרטיבית, שקיפות, התנהגות AI הניתנת להתאמה אישית בגבולות אתיים, כמו גם מחקר ושיפורים מתמשכים. באמצעות תהליך הוליסטי זה, ChatGPT שואפת לשמור על שלמות אתית ולמזעור הטיה כדי לספק כלי מועיל וחסר פניות למשתמשים ברחבי העולם.

מייצר תמונות DALL-E

הכנס/י את כתובת האימייל שלך כדי להרשם לשירות

רק שלב אחד ואתם במחולל תמונות

דילוג לתוכן