Чат-бот і агент — це не одне й те саме
Чат-бот з LLM отримує текст і повертає текст. Агент отримує мету, вирішує, що робити, виконує дії та перевіряє результат. Швидкий тест: якщо ваш код може запитати час, прочитати файл або викликати API без вашого явного запиту, у вас є агент.
Анатомія агента
Чотири частини, без загадок:
- Цикл міркування: LLM вирішує наступний крок на основі мети та історії.
- Інструменти: функції Python, які модель може викликати (пошук, обчислення, збереження).
- Пам'ять: стан розмови та того, що вже було спробовано.
- Виконання: ваш код запускає дію та повертає результат моделі.
Створення на Python, крок за кроком
Створимо агента, який за заданою темою шукає дані та складає резюме.
- Визначте інструменти як звичайні добре задокументовані функції:
buscar_web(consulta)іguardar(texto). - Опишіть кожен інструмент моделі у форматі JSON (назва, опис, параметри). Погані описи — поганий агент.
- Налаштуйте цикл: надішліть мету та історію, подивіться, чи відповідь вимагає інструменту.
- Якщо вимагає, виконайте його самі, додайте результат до історії та знову зверніться до моделі.
- Зупиніться, коли надійде фінальна відповідь або ви перевищите максимум ітерацій. Цей ліміт не є опціональним: без нього ваш агент думатиме вічно, а рахунок за API зростатиме.
З API Anthropic або OpenAI це близько 80 рядків. Ключ не у фреймворку, а в чіткому розумінні, які інструменти ви надаєте і як зупиняєтесь.
Що зазвичай не працює
Нечіткі описи, цикли без обмежень і пам'ять, що росте без контролю. Почніть з двох інструментів і конкретного завдання; додавайте складність, коли просте запрацює.
Якщо хочете створити це під керівництвом і з реальними API, у Clasesdeprogramacion ми побудуємо його разом з вами з першого рядка.