החברה מאחורי ChatGPT, הלא היא OpenAI פרסמה את אחד מהמסמכים החשובים אך גם המפחידים עד כה. המסמך, שמהווה יותר שרטוט חזון אבולוציוני שלה עצמה ותחום ה-AI בכללותו, נקרא ״ Governance of superintelligence״ והמסר המרכזי שלו הוא: אנחנו צופים גרסת AI שתהיה כל כך מתקדמת, עד שהיא תחצה את זה של בני האדם, עד לרמה כזו שהיא תאיים על המשך הקיום של המין האנושי״. לא פחות ולא יותר…
פריצת הדרך הטכנולוגית הזו תגיע במהלך העשור הקרוב!, כך החברה מאמינה, ותהיה אבן הדרך הטכנולוגית המשמעותית ביותר בהיסטוריה של האנושות, וככזו היא גם זו שתשפיע עלינו בצורה הדרמטית ביותר שחווינו.
ה-superintelligence תסייע לאנושות לפתור חידות ואתגרים מורכבים ששום ביטוי אנושי או טכנולוגי הצליחו עד כה (ובהיבט הזה מדובר בסוג של ״כח על״ של אינטליגנציה עם השפעות חיוביות), אך עם הכוח הזה מגיעות גם הסכנות!
ולא מדובר על ״סתם״ סכנה אלא על איום ממשי על המשך הקיום האנושי (היי, הטרמינטור אכן הבטיח שהוא יחזור…). אבל!
המטרה היא לא להכניס לפאניקה אלא לציין ש-OpenAI מזהה את האיום הזה והחליטה להקים צוות/כוח משימה ייעודי שמטרתו לייצר תשתית ניהולית/טכנולוגית שנועדה למנוע מציאות שכזו. זה לא שהם יעצרו את הפיתוחים, חלילה, אלא יקבעו חוקים, נהלים, מסגרות אתיות ונוספות שיוודאו שהטכנולוגיה תמיד תכוון לטובת המין האנושי. נחזיק להם ולנו אצבעות!
לינק למקור