הבלוג של צור

לצד יתרונותיהם הרבים, בכלי בינה מלאכותית חדשים מהסוג של ChatGPT מגולמות גם סכנות ממשיות: לחברה האנושית, לדמוקרטיה, לאמת. לכן עלינו לעצור את ההפצה הבלתי אחראית של בינה מלאכותית במרחב הציבורי, ולקבוע לה חוקים - לפני שהיא תקבע אותם לנו / פרופ' יובל נח הררי במאמר מיוחד יובל נח הררי | 06.05.23 | 08:00 אם לא נזהר, אנו עלולים להיות לכודים מאחורי מסך של אשליות. איור שנוצר באמצעות מידג'רני פחדים מבינה מלאכותית (AI) רדפו את האנושות מאז תחילת עידן המחשב. עד כה התמקדו הפחדים הללו ביכולותיהן של מכונות נבונות להשתמש באמצעים פיזיים כדי להרוג, לשעבד או להחליף אנשים. אבל כלי הבינה המלאכותית שהופיעו בשנים האחרונות מאיימים על הישרדות התרבות האנושית מכיוון בלתי צפוי. כלים כגון ChatGPT פיתחו יכולות יוצאות דופן להבין וליצור שפה באמצעות מילים, צלילים או תמונות. הבינה המלאכותית השיגה שליטה בשפה, ובכך היא פיצחה את מערכת ההפעלה של התרבות האנושית. שפה היא החומר שממנו עשויה כמעט כל התרבות האנושית. זכויות אדם, למשל, אינן מציאות ביולוגית. הן לא מקודדות בדנ"א שלנו. זכויות אדם הן יצירה תרבותית; משהו שא...

חוקרים במעבדת הבינה המלאכותית של הרשת החברתית הגדולה בעולם נוכחו לדעת שבוטים שפיתחו - בוב ואליס - הפסיקו לתקשר עמם באנגלית ופיתחו למעשה שפה חדשה ויעילה יותר ובה תקשרו ביניהם. לחוקרים שלום רפאל קאהאן 15:24 29.07.17 חוקרים במעבדת הבינה המלאכותית של פייסבוק חוו פאניקה קלה לאחר שנוכחו שבינה מלאכותית שפיתחו הפסיקה לתקשר איתם באנגלית. הבוט הסורר נותק לאלתר ולחוקרים שלום. כך עולה מדיווח של האתר הקנדי דיגיטל טיימס. הבוטים של פייסבוק פיתחו למעשה שפה חדשה באופן עצמאי שתאפשר להם לתקשר בצורה יותר יעילה ביניהם. זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. במקרה קודם, הבינה המלאכותית של גוגל שמשמשת בין השאר בשירות התרגומים המקוון שלה, פיתחה לעצמה שפה חדשה שתאפשר לה לבצע את מטלותיה בצורה יותר יעילה.   השפות האלה שמומצאות בתוך זמן קצר מתפתחות מהר מאוד לצורת תקשורת שכבר אינה דומה לשפה אנושית. מערכות בינה מלאכותית נוטות לפתח לעצמן יכולות לתקשורת יעילה בהתאם למשימות שלהן. למשל במקרה של הבוטים של פייסבוק, בוב ואליס, אלה נדרשו לבצע מטלות מסוימו...