063. Расширяем контекст LLM: от RAG до агентов — как победить ограничения AI?

AWS на русском - A podcast by Viktor Vedmich - Thursdays

Categories:

Думаете, увеличение контекстного окна до миллионов токенов решает все проблемы? На самом деле модели всё равно теряют фокус, упускают важные детали в середине и страдают от информационной перегрузки! В этом выпуске обсуждаем: 🔹 Retrieval-Augmented Generation (RAG): как эта технология борется с "галлюцинациями" и устаревшими данными, обогащая ответы AI. 💡 GraphRAG: почему семантические графы — это следующий шаг в понимании сложных связей в данных, и как это меняет игру. 🎧 Tools и Function Calling: как научить модель взаимодействовать с внешним миром, получать актуальную информацию и выполнять действия через API. 💬 AI-агенты: как мы переходим от простых диалоговых сценариев к автономным системам, способным самостоятельно планировать и выполнять задачи. Этот выпуск будет особенно полезен разработчикам и архитекторам, которые хотят создавать более умные и автономные AI-решения, используя такие инструменты, как Amazon Bedrock. 💡 Узнаете, почему Nova Micro в 27 раз дешевле популярных моделей и как правильно декомпозировать документы для векторного поиска с учётом прав доступа. Навигация для Podbean:(0:00) Introduction(3:15) Проблема ограниченного контекста в LLM(8:40) Что такое RAG и как он обогащает запросы?(15:20) GraphRAG: новый уровень работы с данными через графы(22:10) Tools и Function Calling: как научить LLM действовать?(28:55) От диалоговых флоу к автономным AI-агентам(35:30) Анонс следующего эпизода: что такое MCP? Навигация для YouTube:00:00:00 - Начало00:03:15 - Проблема ограниченного контекста в LLM00:08:40 - Что такое RAG и как он обогащает запросы?00:15:20 - GraphRAG: новый уровень работы с данными через графы00:22:10 - Tools и Function Calling: как научить LLM действовать?00:28:55 - От диалоговых флоу к автономным AI-агентам00:35:30 - Анонс следующего эпизода: что такое MCP?   🎧 Слушайте на любимой платформе: • YouTube • Podbean • Apple Podcast • Яндекс.Музыка • Spotify • 💬 Какие подходы к расширению контекста используете вы? Пробовали Graph RAG в продакшене? #AWS #AI #RAG #GraphRAG #LLM