בטא בקרוב. הפיצ׳ר עדיין בפיתוח, ולכן שמות ופרטים עשויים להשתנות לפני השחרור.

משימות ארוכות וקבצים גדולים של הסוכן

איך סוכן Ingot מסיים משימות ארוכות על קבצים גדולים, ולמה הוא תמיד אומר מה קרה במקום לעצור בלי מילה.

אף פעם לא בשקט

  • תשובות קטועות ממשיכות. כשתשובה מגיעה באמצע למגבלת הפלט של המודל, הסוכן ממשיך מהמקום שבו היא נעצרה. הצ'אט מציג תשובה אחת מחוברת.
  • קריאות לכלים שנקטעו מוחזרות ולא מורצות. קריאה לכלי שהארגומנטים שלה נקטעו אף פעם לא רצה עם ערכים חסרים. הסוכן מקבל הסבר מה קרה ושולח את הקריאה שוב עם ארגומנטים קצרים יותר.
  • על תשובות ריקות מבקשים שוב עם היסטוריה קצרה יותר, עד Ask again after an empty or stalled reply פעמים. ראו התאוששות מתשובות.
  • אחרי תשובה ריקה, כל בקשה קטנה יותר. מודלים זולים עונים לעיתים קרובות על שיחה ארוכה בתשובה ריקה או קטועה. אז הסוכן מקטין בחצי את מה שהוא שולח (תורות ישנים נדחסים, פלט ארוך של כלים נחתך עם הערה איך לקרוא את השאר) ושומר על הגודל הזה עד סוף הריצה, כך שהוא אף פעם לא שולח שוב את אותה בקשה גדולה מדי. תשובה ריקה שנייה מקטינה שוב בחצי. הצ'אט אומר את זה פעם אחת.
  • לפני ויתור, הקשר חדש. אם התשובות הריקות ממשיכות, הסוכן ממשיך פעם אחת בהקשר חדש מתוך סיכום של המשימה, לפני שהוא עוצר ואומר מה נכשל.
  • כל ריצה מסתיימת במילה. כשריצה נעצרת בגלל שגיאה, בגלל מגבלת סבבי הכלים או בלי שום תשובה, היא מסתיימת בסיכום ריצה: הקבצים שהיא שינתה, מה הבדיקות אמרו ומה עוד לא הסתיים.

קבצים גדולים

  • כשהסוכן קורא קובץ ארוך בלי לבקש שורות מסוימות, הוא מקבל קודם מתאר: פונקציות, מחלקות, טיפוסים, בדיקות וכותרות, כל אחד עם מספר השורה שלו, ועוד השורות הראשונות של הקובץ. אחר כך הוא קורא רק את החלק שהוא צריך.
  • ingot/edit_file משנה חלק מקובץ, לפי השורות הנוכחיות המדויקות שלו או לפי טווח שורות. הוא אף פעם לא כותב מחדש את כל הקובץ.
  • אחרי כל עריכה הסוכן קורא שוב את השורות ששונו כפי שהן נראות עכשיו.
  • אם השורות שהוא נתן לא תואמות לקובץ, הוא מקבל את השורות הקרובות ביותר בקובץ, עם מספרי שורות, ומנסה שוב. בלוקי REPLACE שלא תואמים מקבלים את אותו רמז.

משימות ארוכות

  • תורות ישנים נדחסים לפני שהשיחה ממלאת את הקשר העבודה, ב-60% כברירת מחדל. המשימה, התורות האחרונים, הקבצים שנקראו ושונו, התוכנית ותוצאות הבדיקות נשמרים ב"הערות המשימה". הצ'אט אומר כשזה קורה. כשאפילו התורות האחרונים גדולים מדי, גם תוצאות הכלים שלהם נחתכות, כל אחת עם "showing N of M lines" והסבר איך לקרוא את השאר.
  • הקשר העבודה הוא הקטן מבין החלון שהמודל מפרסם לבין Working context (‏200k טוקנים כברירת מחדל). מודל שמפרסם מיליון טוקנים לא עונה טוב במיליון טוקנים, ולכן הדחיסה וההקשר החדש נמדדים לפי מה שהסוכן באמת יכול להשתמש בו.
  • ליד הגבול, הקשר חדש. ב-80% מהקשר העבודה הריצה ממשיכה באותו צ'אט מתוך סיכום (מטרה, תוכנית, צעדים שבוצעו, קבצים שנגעו בהם, כשלים פתוחים, הצעד הבא). ראו Fresh-Context Auto-Handoff.
  • קבצים מצורפים אף פעם לא נחתכים בשקט. קובץ גדול שמצרפים עם @ אומר אילו שורות צורפו ואיך לקרוא את השאר.
  • פלט ארוך של כלי נחתך לשורות הראשונות והאחרונות שלו. הערה אומרת "showing N of M lines" ומסבירה לסוכן איך לבקש עוד.

למטרה שדורשת כמה צעדים, משימה מתכננת את העבודה, מריצה את הבדיקות אחרי כל צעד ומסתיימת ב-pull request.

תהליכים ברקע

שרתי פיתוח ותהליכי watch רצים ברקע.

  • ingot/process_output מחזיר רק את הפלט שחדש מאז הפעם האחרונה שהסוכן קרא אותו (לכל היותר 80 השורות האחרונות שלו).
  • הוא יכול לחכות עד 60 שניות לפלט חדש, או לשורה שתואמת דפוס כמו ready|compiled.
  • הסוכן עוצר שרת עם ingot/process_stop, כך שהוא אף פעם לא מחכה לשרת שלא מסתיים.

קבצים פתוחים

כשהסוכן משנה קובץ שפתוח בעורך, כבר לא מופיעה ההודעה "changed on disk, but the editor has unsaved edits". כל עוד לא הקלדתם בעורך הזה, התוכן נחשב של הסוכן: השמירה של הסוכן מסתיימת קודם, ואז העורך נטען מחדש בשקט.

הגדרות

תחת Settings › Agent tools:

הגדרהברירת מחדל
Replies › Continue replies cut off by the output limitפעיל
Replies › Shrink the conversation after an empty replyפעיל
Long tasks and big files › Read long files as an outline first above (lines)300
Long tasks and big files › Compact older turns before the context fills upפעיל
Long tasks and big files › Compact at this share of the context window (%)60
Long tasks and big files › Working context: most tokens the agent plans for200000

Settings › Features וההגדרה הראשונית מציגים שלוש שורות: Agent never goes silent, Long tasks keep their context ו-Smaller requests after an empty reply.

Rex

ריצות של Rex בשרת מקבלות את אותן הגנות: תור ריק, או תור שמגבלת הפלט קטעה, מתבקש שוב ואף פעם לא מסיים את הריצה כ"הושלם"; בפעם השנייה תוצאות כלים ישנות נדחסות; ריצות ארוכות נדחסות וממשיכות בהקשר חדש; וריצה שמקבלת רק תשובות ריקות מסתיימת בהודעה ברורה מה השתנה ומה הבדיקות אמרו. זה פעיל כברירת מחדל; ההגדרה agent.emptyReplyRecovery של Rex מכבה את זה.

אפליקציית הדסקטופ והדפדפן עובדים אותו דבר.