דיגיטל וטק

גוגל מכריזה על כלי שיוכל לזהות תמונות שנוצרו ב-AI

אם חששתם שהעולם הולך ליפול תחת מתקפת פייק תמונות וסרטונים, אז גוגל מכריזה כי לפחות כלי  אחד יעזור לכם במלחמה נגד הזיופים. כך הוא יעבוד
מערכת ice |  1
בנימין נתניהו בבינה מלאכותית (צילום ideogram.ai)
בזמן שכלי הבינה המלאכותית (AI) מסוגלים ליצור תמונות מציאותיות יותר ויותר, גוגל פיתחה כלי חדש בשם SynthID שיכול לסייע בזיהוי תמונות ויצירות אמנות שנוצרו על ידי מחשב.
הכלי מטמיע סימני מים דיגיטליים בלתי מורגשים בתמונות שנוצרו על ידי AI, ומאפשר לזהות אותם גם לאחר שינויים כמו חיתוך או שינויי צבע. הכלי ייעזר ב-Imagen, מודל חדש של טקסט לתמונה של גוגל.
התוכנה אמנם זמינה בינתיים למשתשי Vertex AI של Google Cloud, אך התפתחות טכנולוגיה זו מהווה צעד משמעותי לקראת יכולת שהעולם בהחלט יצטרך כדי להתמודד עם תמונות פייק שיצאו בכמויות.
 
הפייק המוצלח ביותר כנראה יצא מוקדם יותר השנה, והיא תמונה שנוצרה ב-AI שהציגה את האפיפיור פרנציסקוס לובש מעיל יוקרתי ונפוח של מותג יוקרה, מה שהפך לוויראלי ועורר תגובות ברשת בקרב גולשים שלא שמו לב כי מדובר בתמונה מזויפת.
 
איך זה עובד?
שלא כמו סימני מים גלויים הנפוצים כיום, סימן המים הדיגיטלי של SynthID יהיה שזור ישירות בנתוני הפיקסלים. הכלי משתמש בשני מודלים של בינה מלאכותית שהוכשרו יחד - אחד להוספת סימני המים הבלתי מורגשים ואחר לזיהוי שלהם.
גוגל עשתה אופטימיזציה של מודלים אלה כדי להטמיע סימני מים המתיישרים עם תוכן התמונה המקורי, תוך שמירה על איכות ויזואלית תוך הפעלת זיהוי. בבדיקות פנימיות, SynthID זיהה במדויק תמונות שנוצרו בינה מלאכותית לאחר עריכה עמוקה. הוא מספק שלוש רמות ביטחון כדי לציין את הסבירות שתמונה מכילה את סימן המים SynthID.
גוגל לא מבטיחה אי-טעות נגד מניפולציות קיצוניות של תמונות. הכלי צפוי להתפתח לצד דגמי AI אחרים, ולהרחיב את יכולותיו מעבר לזיהוי תמונה לאודיו, וידאו וטקסט.
תגובות לכתבה(1):

נותרו 55 תווים

נותרו 1000 תווים

הוסף תגובה

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה
תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה
  • 1.
    לא באמת רלוונטי..
    ליאור 09/2023/03
    הגב לתגובה זו
    0 0
    זה אומר שהתמונה תצטרך להיות מיוצרת על ידי AI של גוגל ומה הסיכוי שמי שירצה לזייף יבחר דווקא בה?
    סגור