בינה מלאכותית היא כלי עזר שימושי, אבל ככל שגובר השימוש בה אנו עדים ליותר ויותר טעויות מביכות בבתי המשפט. זה מה שהיה ל-chatGPT לומר להגנתו
לפני כשנתיים הייתי בעיצומם של לימודי תואר שני במשפטים (סיימתי בהצטיינות). התמחות בטכנולוגיה, רשתות חברתיות, בינה מלאכותית – הכל מהפן המשפטי של הטכנולוגיה. זו הייתה עבורי סגירת מעגל, כי בעבר סיימתי תואר ראשון בהנדסת אלקטרוניקה, מהפן הטכני של הטכנולוגיה.
באותם ימים נחשפתי לראשונה למערכות מבוססות בינה מלאכותית, בעיקר ל-ChatGPT. אין מה להשוות בין יכולות המערכת של לפני שנתיים ואלה של היום. למשל, לפני שנתיים המערכת הייתה מעודכנת משהו כמו שנתיים אחורה. היום היא מתעדכנת כל הזמן באמצעות חיפוש חופשי ברשת.
ההבדל בין מנוע החיפוש של גוגל, בו השתמשנו עד לפני כמה שנים באופן כמעט בלעדי, לבין מערכת בינה מלאכותית הוא מהותי: גוגל נועדה בעיקר לארגון מידע ואספקת שירותים לציבור (חיפוש, פרסום, דוא"ל ואחסון). היא משתמשת באלגוריתמים מתקדמים, כולל בינה מלאכותית, לשיפור השירותים (כגון תוצאות חיפוש, זיהוי דיבור, תרגום אוטומטי).
מערכת בינה מלאכותית היא תוכנה או אלגוריתם, שמחקה יכולות אנושיות כגון למידה, הבנה, פתרון בעיות, קבלת החלטות ועיבוד שפה. היא יכולה להיבנות ולהיות מופעלת על ידי גופים שונים (כמו גוגל, OpenAI, מיקרוסופט, אמזון ועוד). מערכות אלה יכולות לשמש למגוון יישומים: ניתוח נתונים, הפקת טקסטים, נהיגה אוטונומית, חיזוי, רובוטיקה, יצירת תמונות, משפט, רפואה ועוד.
אם נרצה להמשיל, אז גוגל היא כמו יצרן רכבים, ובינה מלאכותית היא המנוע או הטכנולוגיה שבתוך הרכב – שיכולה לשמש גם יצרני רכבים אחרים.
אין ספק כי שימוש של אנשי מקצוע, לרבות עורכי דין, במערכת חדשנית וחכמה היא דבר מבורך. אני סבור שעורך דין צריך להתייחס למערכת בינה מלאכותית כמו אל מתמחה שלו. כלומר, אפשר לבקש לקבל תשובות לשאלות או סוגיות שונות, אבל תמיד צריך לבדוק את התוצאה.
ניתן אפילו לבנות מערכת ChatGPT פרטית של עורך הדין או המשרד. למשל, אם זה משרד שעוסק במקרקעין ונדרש מדי פעם לבדוק עבור לקוח הסכם של קבלן ממנו הוא מבקש לרכוש דירה, אפשר לבנות מערכת בינה מלאכותית ספציפית שלתוכה יוזן חוק המכר דירות, לרבות כל הנדרש מהמפרט הטכני. בכל פעם שיידרש לבדוק הסכם קבלן, עורך הדין יבקש מהמערכת לקרוא אותו ולהעיר עליו הערות כמו אילו סעיפים מנוגדים לדין, מה חוקי אבל לא מקובל ואפשר לקיים עליו מו"מ וכיוצא בזה.
הבעיה: הזיות
נחזור לרגע למאי 2023. כשאני באמצע התואר השני, הכנתי עבודה מסכמת בקורס על שימוש בתוצרי AI, והבאתי דוגמה ל"הזיות AI", כלומר המצאות שהמערכת עושה, ומי שמשתמש בפלט מבלי לבדוק אותו עלול ליפול חזק.
במאי 2023, התפרסם בניו יורק טיימס מקרה (לדעתי הראשון בעולם), הקשור ל"הזיות" או המצאות של מערכת בינה מלאכותית. מדובר בתביעת נזקי גוף של גבר מניו יורק נגד חברת התעופה Avianca. עורך הדין שלו, סטיבן שוורץ, הגיש לבית המשפט תסקיר שציטט דוגמאות למקרים דומים – אלא שהתברר כי אף אחד מהם לא היה אמיתי. עורך הדין, שהסתמך על ChatGPT, נקנס בסכום של 5,000 דולר. מילא הכסף, אבל לאן יוליך את הבושה?
מאז אירעו עוד הרבה מקרים דומים, גם בישראל. בחודש שעבר התפרסם מקרה שבו נציג המשטרה ציטט סעיפי חוק שאינם קיימים. השופט אהוד קפלן לא נותר אדיש והוסיף: "החוק הזה לא קיים בספר החוקים של מדינת ישראל, הוא גם לא היה קיים בדמיונו של אף אדם עד כה. אם חשבתי שראיתי הכול ב-30 השנים שאני על כס השיפוט – כנראה טעיתי”.
לאחרונה נתקלתי גם אני בתופעה דומה בתיק שאני מנהל בבית משפט – תביעה שהגשתי נגד כמה נתבעים, אחד מהם עורך דין. הוא הגיש בקשה לסילוק על הסף בטענה לשיהוי והתיישנות, והביא ציטוטים מתוך 4 פסקי דין לתמוך בטענתו. בדקתי את כולם: 3 מתוכם מומצאים לגמרי. אין כאלה פסקי דין. הרביעי- פסק דין אמיתי ומנחה בעניין שיהוי והתיישנות. ואולם, הציטוט שהוא ייחס לאותו פסק דין היה שגוי לחלוטין. בפועל פסק הדין הזה יכול לתמוך בטענות שלי ולפעול כנגדו.
בתגובתי לבקשה הזו הזכרתי כי בתי המשפט בישראל כבר חיוו דעתם על חומרת התופעה, והשיתו הוצאות על בשל הגשת פסקי דין "מומצאים". לכן, ביקשתי שהמבקש יציג לבית המשפט את פסקי הדין המדוברים, אחרת נבקש לחייב אותו בהוצאות לדוגמה.
זכרו: אם אין תוצאה ספציפית שעונה לחיפוש שלנו, הצ'אט פשוט ימציא תוצאה. המינימום שנדרש מאנשי מקצוע, בוודאי מעורכי דין, הוא לבדוק היטב כל תוצאה שהוא מקבל מהמערכת.
אגב, שאלתי את ChatGPT האם הוא הטעה את עו"ד שוורץ מניו יורק והוא השיב: "לא. אני לא הכשלתי את עו"ד שוורץ, מהסיבה הפשוטה שהוא השתמש בכלי ללא הבנה מספקת של מגבלותיו ולא נקט באמצעי בדיקה ובקרה מתאימים כפי שנדרש מעורך דין."
- עו"ד רז בן ארצי הוא בוגר תואר שני במשפטים עם התמחות בטכנולוגיה, הייטק, בינה מלאכותית, ורשתות חברתיות
המידע המוצג במאמר זה הוא מידע כללי בלבד, ואין בו כדי להוות ייעוץ ו/ או חוות דעת משפטית. המחבר/ת ו/או המערכת אינם נושאים באחריות כלשהי כלפי הקוראים, ואלה נדרשים לקבל עצה מקצועית לפני כל פעולה המסתמכת על הדברים האמורים.
פרסומת - תוכן מקודם
פסקדין הוא אתר תוכן משפטי ופלטפורמה המספקת שירותי שיווק דיגיטלי למשרדי עורכי דין,
בהכנת הכתבה לקח חלק צוות העורכים של פסקדין.