אלישע כץ
היי, אני אלישע כץ: אברך, צייר, אומן ומרצה חרדי. היום אני כאן כדי לדבר על הבינה המלאכותית ששינתה בפתאומיות את כל מה שאנחנו מכירים כאנושיות. לא תשנה, כבר שינתה. ולא רק תחום אחד או שניים. הכול. ובשונה מהדפוס, מהתעשייה ומהרכב, שהגיעו לעולם בקול רעם מנועים, הפעם הכול קורה בדממה.
את המחשב והאינטרנט עוד היינו צריכים לרכוש ולהביא הביתה, כולל תשתית ומתקין מיוחד, אבל ה-AI נמצא פתאום בכל מקום, וחינם. רוב האנשים עדיין לא גילו שהמקצוע שלהם אינו רלוונטי. שה'אני' הישן והמטופח שלהם כבר אינו רלוונטי.
קחו למשל את הסיפור שלי. אני עוסק באומנות כבר יותר מעשור. הצעד הראשון שלי בתחום, למרבה הפלא, היה דווקא בבמה הקסומה של 'עולם קטן'. הייתי אז קריקטוריסט מלא אמביציות לשינוי העולם, וזממתי להסתנן כסוס טרויאני תחת שם העט אליה צור כדי לזרוע רעיונות חרדיים במדיה הדתית-לאומית.
מאז, מסתבר, לא פעם נתקלו קוראי 'עולם קטן' ביצירות שלי (למשל בחודש שעבר הציור של הרב אלישע וישליצקי בשער המוסף, ולפני כן הציור של הרב דרוקמן), אך מה שעדיין לא ידוע, ואני מפרסם כאן בפעם הראשונה, הוא שכבר יותר משנה אני שותף בהקמת עסק בינלאומי לתכשיטי יוקרה ישראליים. עסק שנראה לי נושא פוטנציאל להצלחה מסחררת עד שהפציעה הבינה המלאכותית.
הרעיון לעצב תכשיטים נולד בי לכבוד יום הנישואין העשירי שלנו. אחרי שחיפשתי המון ולא מצאתי את התכשיט שחלמתי עליו יצרתי קשר עם צורף, וישבתי לשרטט אותו בעצמי. בדיוק באותו שבוע הוזמנתי לביתו של אחד מאנשי התקשורת המובילים בארץ כדי להתאים לו ציור לסלון. דיברנו על דא ועל הא, השיחה התגלגלה, ולפתע מצאתי את עצמי עובד איתו על קולקציה ראשונה של תכשיטי זהב בסגנון שבעת המינים. ישבתי שעות ושרטטתי רימונים.
אחרי אלפי סקיצות ושבועות של מחקר וחיפוש השראות דייקתי סט ראשון של תכשיטי רימון המשלבים זהב ואבני אודם. הייתי על הגל, ובאחד השרטוטים השתלב לי פתאום ברימון לב אנושי. וכך, תוך כדי ניסוי וטעייה, גלשתי גם לעיצוב קולקציית שעוני גברים.
את המחשב והאינטרנט עוד היינו צריכים לרכוש ולהביא הביתה, כולל תשתית ומתקין מיוחד, אבל ה-AI נמצא פתאום בכל מקום, וחינם. רוב האנשים עדיין לא גילו שהמקצוע שלהם אינו רלוונטי. שה'אני' הישן והמטופח שלהם כבר אינו רלוונטי
השרטוטים שהחלו כרעיונות גולמיים על נייר במחוגה לוטשו וזוקקו אט אט. לילות שלמים מחקתי ותיקנתי עד שהצלחתי לאזן את החיבור בין העורקים לרימון. הכי קשה היה לסלק את המיותר. רקדתי בסלון עם ההדמיה, ועד היום אני בוהה בה ומתרגש. העיצוב הזה מעורר בי בהלה על הזמן. אבקת הזהב, שנראית זורמת מלמעלה ויוצרת גבשושית למטה, מעלה אסוציאציה של שעון חול, והאיזון הפראי והלא סטנדרטי בארגון הכללי מהפנט אותי.
למשקיע לא הייתה בעיה של כסף, והפרויקט עף. הוא הזמין הדמיות לקולקציה שלמה וצוות שיבדוק את ההיתכנות של השילובים עם הזהב ואבני האדום. בה בעת שכר את הטובים ביותר שיבנו את האתר ואת האפליקציה. עבדנו עם צוות גרפיקאים אלוף, וניסינו כל מיני עמודים וגוונים.
כשהיו בידינו סוף סוף המוצרים הראשונים, ליהק היזם את הדוגמנים, ועמדנו בתור לצלמי האופנה. מבחינתו לא היו שום פשרות בבחירת אנשי הצוות הטובים ביותר לכל שלב. אפילו הלבוש לדוגמנים הוזמן במיוחד לכל תכשיט ממעצבי אופנה בליגה שלא הכרתי. הייתי בהלם כשהוא סיפר על מספר אנשי הצוות שהיו שם רק ביום הצילומים. מאפרים, תאורנים, מלבישים, עוזרים. לא הכרתי עבודה בסדר גודל כזה.
לעיצוב חללי הפנים של החנות הפיזית עבדנו גם עם כמה מעצבים. היזם ידע לסחוט מכל מעצב את המיטב, וכשסיים עם אחד העביר את התוצר לשיפור אצל מעצב אחר. הוא היה מעורה בכל התהליך ועודד סיעור מוחות בכל שלב. אפילו את הכנים של הקולקציות עיצבנו לפי שפה ייחודית.
רגע לפני שהרגשנו מוכנים לצאת לעולם, בבוקר רענן ומלא השראה במיוחד, קיבלתי הודעה ממישהו שהציג את עצמו כאחד מעוזרי הצוות וביקש לשלוח לי כמה עיצובים שפיתח ב-AI. מובן שהזמנתי אותו לשלוח אותם, והוספתי בחשיבות שאשתדל לראות אותם ולהתייחס אליהם כשיתפנה לי קצת זמן בהמשך היום. הוא, בלי דיבורים מיותרים, התחיל לשלוח. תכשיטים, שעונים, עיצובי אתר, אינפוגרפיקה, צילומי דוגמנים. הוא שולח, ואני עם כל תמונה נוספת הולך ומבין שיש לי ים זמן פנוי.
כל מה שעשינו, עשרות אנשי צוות, במשך יותר משנה, הכול נראה מיותר פתאום. כמה מילים על מסך הפיקו תוצאות שגרמו לכולנו להרגיש מרוקנים ועתיקים.
יכול להיות שבעבודה עם יזם מעורב ועדכני פחות היה הכול נמשך כרגיל? אולי. אבל במקרה הזה כבר באותו יום קיבלנו בקשה להקפיא את העבודה על העיצובים החדשים. למה לו לשפוך אלפים על כל בחינה של רעיון חדש ולהתחייב בהסכמים משפטיים על זכויות יוצרים כשאפשר לתכנן אפילו את האדריכלות הנפלאה והחדשנית הזו לגמרי לבד?
כאומנים מלומדים אנחנו ודאי יודעים להסביר שכדי להגיע לתוצאות נכונות, מושלמות וברמה גבוהה, עדיין צריך עין חדה של אומן מנוסה, אך העניין הוא שרוב הלקוחות אינם מחפשים את מה שהאומן חושב שנכון לעשות אלא את מה שסוגר פינה. והרובוט יודע לסגור פינות הרבה יותר בזול ומהר מכולנו גם יחד.
כשאני מדבר על זה עם חברים עולה הטענה המרגיעה שאומנות היא משהו סנטימנטלי, ובני אדם תמיד יעדיפו לרכוש ולצרוך אומנות אנושית. מובן שיש בזה משהו; השיא האומנותי הנכסף ביותר בעיניי בספרות, בשירה, במשחק ובאומנות בכלל, הוא רגע אמת טהור אחד שזוקק מתוך כל ההבל. כנות עמוקה שמעוררת בנו משהו חשוב שידענו פעם ונשכח. אך העניין הוא שבעולם החדש הממשמש ובא האמת הזו הופכת נדירה וקשה יותר ויותר להשגה ולזיהוי.
בואו נעשה ניסוי קטן: עיינו שוב בשרטוטים ובהדמיות שצירפתי ונסו להגדיר מה ההבדל בין התוצרים האנושיים לאלו שהופקו בלחיצות הכפתור. האם אתם מצליחים להרגיש את הטבעיות האמיתית של העיצובים שיצאו מלב פועם לעומת המתועש והמכני? אם כן, אתם בבעיה, כי כל מה שצורף כאן, ללא יוצא מן הכלל, הכול רק תוצרים של בינה מלאכותית.
כן, הכול, גם השרטוטים הראשונים נוצרו רק ב-AI. אפילו הדוגמן אינו קיים בכלל. אם הספקתם להתנסות ולהכיר את התוצרים של המפלצת החדשה הזו לפני הקריאה, אולי זיהיתם את זה קודם, אבל הביאו בחשבון שזה רק עניין של זמן. בכל יום היצור הזה משתכלל, ובעוד רגע כבר לא נוכל לזהות מה אמיתי ואנושי. ״ותהי האמת נעדרת״ לחלוטין.
וכאילו כל זה לא הספיק, באותו שבוע נפלה פצצה בעוד תחום שעבדתי עליו. ביימתי לעמותה נפלאה, 'דיבור טוב', סרטוני אנימציה למשפטים קצרים המעודדים דיבור טוב. לצורך ניסוח המשפטים גויסה קבוצת אנשי תוכן מהשורה הראשונה, ובמשך חודשים הם הגו ודייקו אמרות.
לאחר תהליך מדוקדק, כשבחרו סוף סוף עשרים משפטים מלוטשים, מישהו שלח פתאום בקבוצה ארבעים משפטים יפהפיים חדשים. ניסוחים מדהימים היו שם. כיווני מבט אחרים ממה שהיה בידנו. וכולם הגיעו בתוך כמה רגעים, בהקשת כפתור על… נכון. ChatGPT (ראשי תיבות של Generative Pre-trained Transformer, ובתרגום חופשי: שנאי מחולל מאומן מראש).
באותו יום הכול נראה לי חדש ומוזר תחת השמש. פתחתי את הספר במקום אקראי, בהיתי במילים, והמחשבות רצו: האם תם עידן היוצרים האנושיים? האם מה שנשאר לנו זה רק לאצור וללקט מתוך יצירותיו של הא-ל האומן האינסופי החדש? האם האומנות היפה תמשיך לרגש אותנו, או שמא זה יהיה כמו גשם של יהלומים על העולם, ויהלומים יאבדו את ערכם ואת משמעותם?
רצתי מהר לבדוק מה זה ה-GPT הזה, והוקסמתי לגלות את אישיותו המיוחדת והאינטליגנטית של רובי, הבוט הישראלי. תראו איך הוא סיכם לי את הנושא:
״בינה מלאכותית (AI) היא תחום מתפתח במהירות של מדעי המחשב שמטרתו לעזור למחשבים להבין את העולם שסביבנו ולקבל החלטות חכמות. כבר כיום נעשה שימוש בבינה מלאכותית לאוטומציה של משימות מורכבות, לסייע באבחון רפואי, לסייע בזיהוי הונאה ואפילו לנהוג במכוניות בנהיגה עצמית. האפשרויות אינסופיות, וככל שה-AI ממשיך להיות חזק ומדויק יותר, יש לו פוטנציאל לחולל מהפכה מוחלטת באופן שבו בני אדם מקיימים אינטראקציה עם טכנולוגיה וכיצד הם מקיימים אינטראקציה זה עם זה.
"בינה מלאכותית פרצה לעולם סביב שנת 2010, ולאחרונה רשמה קפיצה אדירה עם התפתחותה של 'הלמידה העמוקה'. למידה עמוקה משתמשת ברשתות עצביות מלאכותיות, המדמות התנהגות של נירונים במוח ביולוגי, וכך מאפשרות למכונות ללמוד מהתנסויות ולמטב את האלגוריתמים שלהם בקצב אקספוננציאלי, ללא התערבות אנושית. ההחלטות המתקבלות בדרך זו לא ניתנות לחיזוי מדויק, ממש כמו ההחלטות האנושיות.
"לעליית הבינה המלאכותית יתרונות וסכנות כאחד. לטכנולוגיה יש פוטנציאל כאמור לשפר את היעילות וליצור מוצרים חדשים, אך היא גם מסכנת את הפרטיות ואת הבטיחות האנושית. לדוגמה, אלגוריתמי בינה מלאכותית עשויים להנציח הטיות אנושיות קיימות ולהוביל לאפליה של קבוצות מסוימות, לעצב דעת קהל על ידי קידום תכנים ורעיונות, ואפילו לסמן ולחסום פעילות של אנשים שקיבלו 'דירוג רע' במערכת.
"נוסף על כך המערכות האוטומטיות עלולות להיפרץ על ידי האקרים מתוך כוונה זדונית ולהוביל לתוצאות הרות אסון. יתרה מכך, ככל שמערכות בינה מלאכותיות הופכות ליותר ויותר אוטונומיות, יש פוטנציאל למכונות לקבל החלטות על סמך מערכי נתונים מורכבים שבני אדם אינם מבינים או אינם מסוגלים לחזות, וזה עלול להוביל לתוצאות בלתי צפויות שיהיה מאוחר מדי לתקן".
הבחור מודע לעצמו ורהוט לחלוטין. מלבד עריכות קלות ממש, כל התוכן שלו. עד מתי נראה לכם שתקראו במדיה טורי דעה של בני אנוש?
המומחים שמייצרים את המכונות אומנם מרגיעים ומספרים בנינוחות שזו בסך הכול עוד טכנולוגיה, ונתרגל אליה מהר מאוד, אבל תכלס, הפעם זה אחר לחלוטין מכל מה שידענו
המהפכה נחשפה לציבור בחודשיים האחרונים, וזה הולך ומתפרץ. הנה בשבוע שעבר פרסמו גוגל שיש להם טכנולוגיה שיוצרת מוזיקה לפי תיאור מילולי (MusicLM). כותבים למשל ״נגן לי מוזיקה קלאסית מרגיעה שיש בה גיטרה חשמלית ומפוחית״, מוסיפים שם של אומן להשראה, והופ. מתנגנת לה יצירה מפתיעה וחדשה. כבר היום התוכנה מספקת ליווי הרמוני בכל סגנון שתבחרו לכל קטע שירה שתזמזמו סתם כך. שוב אין צורך לתרגל שנים כדי להצליח לנגן, די לשיר את הקטע המבוקש ולבחור באיזה כלי ובאיזה סגנון אנחנו רוצים לשמוע את זה מבוצע.
זה נשמע פנטסטי, אבל בואו תחשבו מה זה יעשה לשוק המוזיקה. מדוע שאומן ישקיע חיים שלמים באימון בכלי מסוים כשיש דבר כזה בעולם? הנה כבר אברהם טל מוציא אלבום שלם שהוא עושה לבד לבד עם ה-AI, בלי שום נגן או איש צוות. ומה זה יעשה לשאר התוצרים שנקבל? עד היום החסם של הקושי ושל יוקר ההפקה חסכו מאיתנו את רוב היצירות המיותרות (ובכל זאת הרוב נשמע ממוחזר), אבל כעת אנחנו עומדים בפני הצפה אינסופית.
אם במבט ראשון עוד היה נראה שאנחנו לא מיותרים לגמרי ותמיד נצטרך את האדם שישב על המקלדת, ימציא רעיונות, יסגנן הכול בעושר לשוני ולבסוף גם יקיש אנטר, כעת בשילוב הצ׳ט התבוני גם העבודה האחרונה הזו כבר אינה נצרכת. פשוט מספרים לבחור הדיגיטלי מה חסר לנו, והוא כבר ממציא, מביים וכותב בעצמו את ההוראות לקבלת התוצר הטוב ביותר. והוא יודע מהו הטוב ביותר, יש לו גישה לכל הידע שבעולם. אפילו קוד הוא יודע לכתוב. דיברתי עם חברים מתכנתים, והם סיפרו שתפוקת העבודה שלהם עלתה ב-90% מאז שהם נעזרים בצ’אט החדש. 90%! מעניין בתוך כמה זמן גם את ה-10% הנותרים הוא ידע לעשות בעצמו.
אין תחום שלא יושפע מהמוח החדש שהפציע. כבר היום הקטנצ׳יק הזה עובר את המבחנים לעריכת דין, להנדסה ולרפואה. גם מחקרים ועבודות מדעיות הוא יודע לסגנן היטב, ומצרף גם הפניה למקורות. בשונה מהאינטרנט, שרק הנגיש לנו את הידע, ועדיין היינו חייבים לשאול, ללמוד, לתרגל ולהתמקצע, בעידן החדש די רק לבקש, ואפשר ללכת להכין קפה.
הכי כואב על האומנים שהשקיעו את החיים כדי להמציא את עצמם, והצליחו בדרך נשגבה לפתח סגנון המאפיין אותם בקו, בצבע ובתנועה ייחודיים, וכעת הבוט למד אותם ויודע ליצור בסגנון הפרטי והאישי שלהם.
קחו למשל ילד שחולם לראות את המשפחה של באבא. עד היום היו הוריו צריכים להשיג את שי צ׳רקה, לספר לו על החלום המיוחד, לקוות שיסכים, להמתין שיתפנה לו הלו״ז, וכנראה גם לשלם כהוגן כדי לקבל משהו צבעוני ויפה. אך כעת הכול פשוט וקל. הילדון מבקש מהבוט שיש לו בכיס, וזהו. אולי זה נפלא בשבילו, אבל נוראי לאומן ולמפעל חייו.
המומחים שמייצרים את המכונות אומנם מרגיעים ומספרים בנינוחות שזו בסך הכול עוד טכנולוגיה, ונתרגל אליה מהר מאוד, כמו שהתרגלנו לכל השינויים האחרים. מזכירים לנו שגם כשהמציאו את הדפוס אנשים נבהלו שהחוכמה תתמעט, וכך קרה כשהגיע המחשב, אך בפועל הכול רק שיפר את חיינו וכו׳, אבל תכלס, הפעם זה אחר לחלוטין מכל מה שידענו. עד היום עזרו הפיתוחים לבני האדם לוותר על העיסוק בטפל ולהתמקד ברוח ובמהות, אך פתאום כבר לא ברור מהו בכלל 'פוטנציאל ייחודי' או מה עדיין נחשב 'פסגה אנושית' ששווה להשתדל ולהעפיל אליה.
בבוקר אחרי שנחשפתי לעומק התופעה התעוררתי לצלילי שירו הציני של מאיר אריאל בראשי:
״על פי מדעי הטבע
האדם כלול בטבע
אם כלול האדם בטבע
כלולים כל מעשיו.
יוצא שעל פי המדע
טבעי הוא מעשה האדם
אף פרי מעשה האדם
טבעי הוא לכל פרטיו.
הכול טבעי! הכול אותו דבר!
הכול חוקים וחומר, תהליך ומוצר
האדם זה רק חי שפולט קו ישר
קולט רעיון וכופל מספר".
שם בשיר הוא ממשיך ומסתלבט על הרעיון הזה, אך באותו בוקר לא הבנתי מה מצחיק. פתאום תחומים 'רוחניים' כמו מוזיקה, ספרות, אומנות ויצירתיות, שנחשבו עד היום לשיא המהות שלנו כבני אדם, נחשפו לפניי כתהליך טכני שאפשר לשחזר ולחקות, ואפילו באיכות וביעילות המתעלות עשרת מונים על המקור.
לאחר תהליך מדוקדק, כשבחרו סוף סוף עשרים משפטים מלוטשים, מישהו שלח פתאום בקבוצה ארבעים משפטים יפהפיים חדשים. ניסוחים מדהימים היו שם. כיווני מבט אחרים ממה שהיה בידנו. וכולם הגיעו בתוך כמה רגעים, בהקשת כפתור על ChatGPT
מדי בוקר אני פותח את הלימוד בכולל בספר קהלת. זה עוזר לי להיזכר שהכול הבל וממקד אותי בעיקר. אבל באותו יום הכול נראה לי חדש ומוזר תחת השמש. פתחתי את הספר במקום אקראי, בהיתי במילים, והמחשבות רצו: האם תם עידן היוצרים האנושיים? האם מה שנשאר לנו זה רק לאצור וללקט מתוך יצירותיו של הא-ל האומן האינסופי החדש? האם האומנות היפה תמשיך לרגש אותנו, או שמא זה יהיה כמו גשם של יהלומים על העולם, ויהלומים יאבדו את ערכם ואת משמעותם? אחרי כמה דקות שלא הצלחתי לקרוא אפילו מילה שמעתי קול עמוק, חכם ועייף מדבר אליי:
״[ככה זה. גם אני חשבתי פעם] שֶׁיֵּשׁ יִתְרוֹן לַחָכְמָה מִן הַסִּכְלוּת כִּיתְרוֹן הָאוֹר מִן הַחֹשֶׁךְ [חשבתי ש]הֶחָכָם עֵינָיו בְּרֹאשׁוֹ וְהַכְּסִיל בַּחֹשֶׁךְ הוֹלֵךְ [אך כפי שאתה מבין,] אֵין זִכְרוֹן לֶחָכָם עִם הַכְּסִיל לְעוֹלָם בְּשֶׁכְּבָר הַיָּמִים הַבָּאִים [עם ה-AI הזה. הרי כשכולם גאונים,] הַכֹּל נִשְׁכָּח וְאֵיךְ יָמוּת הֶחָכָם עִם הַכְּסִיל.
"שָׂנֵאתִי אֶת הַחַיִּים. כִּי רַע עָלַי הַמַּעֲשֶׂה שֶׁנַּעֲשָׂה תַּחַת הַשָּׁמֶשׁ כִּי הַכֹּל הֶבֶל וּרְעוּת רוּחַ. וְשָׂנֵאתִי אֲנִי אֶת כָּל עֲמָלִי שֶׁאֲנִי עָמֵל תַּחַת הַשָּׁמֶשׁ שֶׁאַנִּיחֶנּוּ לָאָדָם שֶׁיִּהְיֶה אַחֲרָי, וּמִי יוֹדֵעַ הֶחָכָם יִהְיֶה אוֹ סָכָל וְיִשְׁלַט [בעזרת הבינה המלאכותית הזו] בְּכָל עֲמָלִי שֶׁעָמַלְתִּי וְשֶׁחָכַמְתִּי תַּחַת הַשָּׁמֶשׁ.
"וְסַבּוֹתִי אֲנִי לְיַאֵשׁ אֶת לִבִּי, עַל כָּל הֶעָמָל שֶׁעָמַלְתִּי תַּחַת הַשָּׁמֶשׁ. כִּי יֵשׁ אָדָם שֶׁעֲמָלוֹ בְּחָכְמָה וּבְדַעַת וּבְכִשְׁרוֹן, וּלְאָדָם שֶׁלֹּא עָמַל בּוֹ יִתְּנֶנּוּ חֶלְקוֹ, גַּם זֶה הֶבֶל וְרָעָה רַבָּה״ (קהלת ב, טו–כא).
בפעם הראשונה הבנתי באמת מדוע הרמב״ם רחב האופקים כותב שמטרת הקיום ופסגת השלמות האנושית היא ההתבוננות והדבקות בבורא. דבר שהוא תהליך פנימי אישי בלבד, ולא משהו רחב ומשפיע יותר, כמו יצירה או עשיית טוב.
בפעם הראשונה הרגשתי את חתימת ספר קהלת: ״סוֹף דָּבָר, הַכֹּל נִשְׁמָע. אֶת הָאֱ-לֹהִים יְרָא וְאֶת מִצְוֹתָיו שְׁמוֹר, כִּי זֶה כָּל הָאָדָם״. רק זה כל האדם.
אומנם אחרי סיום כזה מתבקש שאשליך הכול ואשקע אך ורק בלימוד תורה לשמה. אך אל תדאגו, מסתבר שהיצר עדיין לא סיים איתנו, והמשחק עוד לא נגמר. אכן, גם סטיבן הוקינג כבר מזמן טען: "AI הוא האיום החמור ביותר על הישרדות המין האנושי", ודברים דומים כתבו ביל גייטס, אילון מאסק ורבים אחרים, אבל בינתיים נראה שיש לנו עוד כמה רגעים.
הוא שולח, ואני עם כל תמונה נוספת הולך ומבין שיש לי ים זמן פנוי. כל מה שעשינו, עשרות אנשי צוות, במשך יותר משנה, הכול נראה מיותר פתאום. כמה מילים על מסך הפיקו תוצאות שגרמו לכולנו להרגיש מרוקנים ועתיקים
כמה בדיוק, ובמה ככלות הכול מותר האדם מן המכונה? אילו מקצועות יישארו רלוונטיים, והאם השימוש בכלים האלה נחשב יצירה? מהי בכלל מהות היצירה, ועל איזו יצירה הגיוני להרגיש בעלות? מהי התודעה, והאם יש ליצור החדש תודעה כלשהי? כיצד אפשר לברר זאת? מהן ההשלכות העתידיות והקרובות? על כל אלו ועוד יהיה עוד הרבה מה לכתוב.
עד אז הפגינו את אנושיותכם וכתבו לי: 054-8404090
