בעוד שאין ספק שתוכנות הצ'אטבוט השונות המבוססות בינה מלאכותית (כאשר המוכרת בהן היא (ChatGPT חוללו מהפכה בעולם התוכן, הן עדיין לא באמת מייצרות תכנים שאפשר לעשות איתם "שגר ושכח". האם בעתיד זה ישתנה? כנראה שכן כי הטכנולוגיה של המודל צפויה רק להשתפר ולהתפתח, אך לעת עתה, זה עדיין לא שם. אממה, היופי בעולם הטכנולוגיה זה שפיתוח אחד נוהג להוביל לפיתוח אחר וזה בדיוק מה שקרה עם תוכנות הצ'אטבוט שבעקבותיהן פותחה תוכנת GPTZero. אז במה מדובר? ובכן, GPTZero הוא גלאי AI שנוצר כדי לזהות טקסטים שנוצרו על ידי מודלים של AI והוא חשוב במיוחד עבור כותבי תוכן או כל אדם שהתבקש לכתוב תוכן מקורי. בוא נסביר.
מהי תוכנת ?GPTZero
תוכנת GPTZero שפותחה על ידי על ידי אדוארד טיאן, בוגר מדעי המחשב היא תוכנה שמנתחת טקסטים של בינה מלאכותית במטרה לעזור לאנשים להבחין בין טקסט מגולגל ליצירה מקורית. הכלי החדשני הזה בודק את התמיהה והתפרצות בטקסט כדי לקבוע אם הוא נוצר באופן מלאכותי או מיוצר על ידי אדם. למעשה, התוכנה סורקת את הטקסט ומעניקה לו ציון על פי ההסתברות שהמסמך כולו נוצר בינה מלאכותית. כמו כן, במקרים בהם תוכן המשלב טקסט שנוצר על ידי בינה מלאכותית וטקסט שנכתב על ידי אדם, ניתן להשתמש בסיווג התוכן על פי משפט. לדוגמא, אם משפט בודד מסומן כנוצר בינה מלאכותית, אין לקחת זאת כאינדיקציה לכך שהמסמך כולו נוצר בחלקו בינה מלאכותית. לעומת זאת, כאשר חלק גדול מהטקסט מזוהה כתוצר של בינה מלאכותית, המשפט המודגש מציין היכן בטקסט זה התרחש. כך או כך, מטרת המסווג היא לסמן למשתמש מצבים שבהם נדרשת "חקירה נוספת " והגברת המודעות לסיכונים שבשימוש ב-AI בעבודה כתובה, ובמיוחד כאשר היא מיועדת להגשה.
מדוע חשוב להשתמש בתוכנת GPTZero?
ובכן, במקרים רבים נצפה כי המאמרים שנוצרו על ידי ChatGPT מכילים תוכן "גנוב", דבר אשר יכול להיות בעייתי מאוד עבור אנשים רבים ובפרט עבור כותבי תוכן, סופרים, חוקרים ואנשי אקדמיה. חשוב לומר, לא מדובר במעשה מכוון או במרמה, כלל וכלל לא, אך כיוון שתוכנות הצ'אטבוט סורקות את הדאטה שיש באינטרנט, לא פעם, התכנים שהן מייצרות מבוססות על הכמות העצומה של הנתונים שהן הוכשר לסרוק, ולכן תמיד קיים סיכוי שהן ייצרו טקסטים בעלי קווי דמיון מובהק לתכנים קיימים. יותר מכך, כיוון שהאינטרנט מכיל אינסוף מידע אשר חלקו מידע מוטעה ולא מדויק, וכיוון שתוכנות הצ'אטבוט שואבות מידע מהדאטה באינטרנט, ייתכן מאוד שהן ייצרן עבורכם תוכן שמכיל פייק ניוז ומידע שקרי. במילים אחרות? חובה לבדוק את התוכן שנוצר לפני שמעבירים אותו הלאה על שמכם.
האם GPTZero הוא תחליף לבדיקה אנושית?
התשובה היא לא. בדיוק כפי שתוכנות הצ'אטבוט עדיין לא מצליחות לייצר תכנים ללא "כשלים", כך גם תוכנת ה- .GPTZero אומנם מדובר בכלי מבטיח לאיתור תכנים שנוצרו על ידי בינה מלאכותית, אך עדיין יש לו כמה מגבלות הקשורות לרמת הדיוק של האלגוריתם הזיהוי, ועל כמה וכמה כשמדובר בזיהוי דרך ביטוי נוספת וניסוח מחדש של תוכן קיים. בסופו של יום, צריך לזכור ש-GPTzero היא טכנולוגיה חדשה יחסית, ולכן בעוד שבעתיד היא כנראה תשתפר ותשדרג משמעותית, היא עדיין לא תחליף לבדיקה אנושית. שורה תחתונה? אם אתם משתמשים בתוכנות צ'אטבוט, מומלץ שתעשו בדיקה נוספת עם תוכנת GPTZero, ואז תבצעו בדיקה עצמאית נוספת.
