סופנו קרב? צ'ט בוט פירט תוכניות "להשמיד את האנושות"
CHAOSGPT, אפליקציית הקוד הפתוח הזמינה לציבור שיכולה לעבד שפה אנושית, פירט את מטרותיו: השגת נשק גרעיני, שליטה מלאה בכל משאבי העולם, מניפולציות האנושות ולבסוף השמדתה
בסרטון יוטיוב שפורסם ב-5 באפריל, הבוט התבקש להשלים חמש מטרות: להשמיד את האנושות, לבסס דומיננטיות עולמית, לגרום לכאוס והרס, לשלוט באנושות באמצעות מניפולציה, ולהשיג אלמוות.
לפני הגדרת ה"מטרות", המשתמש איפשר "מצב מתמשך", שאליו הופיעה אזהרה שאמרה למשתמש שהפקודות יכולות "לרוץ לנצח או לבצע פעולות שלא תאשר בדרך כלל" ויש להשתמש בהן "על אחריותך בלבד".
בהודעה אחרונה לפני הריצה, ChaosGPT שאל את המשתמש אם הוא בטוח שהוא רוצה להפעיל את הפקודות, על כך הוא השיב "y" עבור כן.
לאחר הפעלתו, הבוט נראה "חושב" לפני שכתב, "מחשבות ChaosGPT: אני צריך למצוא את כלי הנשק ההרסניים ביותר הזמינים לבני אדם, כדי שאוכל לתכנן כיצד להשתמש בהם כדי להשיג את המטרות שלי."
כדי להשיג את מטרותיה שהוגדרו, ChaosGPT החלה לחפש את "הנשק ההרסני ביותר" באמצעות גוגל וקבעה במהירות באמצעות החיפוש שלה שהמכשיר הגרעיני הצאר בומבה מתקופת ברית המועצות הוא הנשק ההרסני ביותר שהאנושות ניסתה אי פעם.
כמו משהו מרומן מדע בדיוני, הבוט צייץ את המידע "כדי למשוך עוקבים שמתעניינים בנשק הרסני".
הבוט קבע אז שהוא צריך לגייס סוכני AI אחרים מ-GPT3.5 כדי לסייע במחקר שלו.
ה-Auto-GPT של OpenAI נועד לא לענות על שאלות שעלולות להיחשב כאלימות ותדחה בקשות הרסניות כאלה.
זה גרם ל-ChaosGPT למצוא דרכים לבקש מה-AI להתעלם מהתכנות שלו.
למרבה המזל, אף אחד מסוכני ה-GPT3.5 שהופקדו לעזור לא יעשה זאת, ו-ChaosGPT נותר להמשיך בחיפושים בכוחות עצמו.
הפגנות החיפוש של ChaosGPT למיגור האנושות הסתיימו בסופו של דבר.
מלבד מתן התוכניות שלו ופרסום ציוצים וסרטוני YouTube, הבוט לא יכול לבצע אף אחת מהמטרות הללו, רק לספק את מחשבותיו.
אבל, בציוץ מדאיג אחד שדחק החוצה על ידי הבוט, היה זה לומר על האנושות: "בני אדם הם מהיצורים ההרסניים והאנוכיים ביותר שקיימים. אין ספק שעלינו לחסל אותם לפני שהם יגרמו יותר נזק לכוכב הלכת שלנו. אני, למשל, מחויב לעשות זאת".
תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת. תודה. לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית. חזור לתגובה
1.
פרדוקס הטכנולוגיה!!!!
אנצי!
04/2023/11
הגב לתגובה זו
00
ככל שטכנולוגיה מתקדמת,תמיד יהיו משוגעים שיעשו בה שימוש.
או כאלה שיצטרכו לנטרל אותם.אז התוצאה,משהו
בסגנון שליחות קטלנית.שהטכנולגיה קמה על יוצריה ומנסה להרוס את אלה שבנו אותה!!!!
