Генеративна модель створює новий вміст. Раніше моделі ділили за типом вмісту: окрема модель для тексту, окрема для зображень, окрема для звуку. Цей поділ втрачає сенс: сучасні флагманські моделі мультимодальні. Одна модель приймає текст, документи і зображення та відповідає текстом, а частина - і голосом.
Сьогодні працюють три інші поділи. Перший: великі і малі моделі - наступний крок пояснює різницю. Другий: закриті і відкриті ваги. Закриту модель викликаєш лише через сервіс компанії-розробника. Відкриту можна завантажити і запустити на власному сервері. Третій: базова модель і асистент. Асистент - це модель плюс кілька шарів навколо неї; крок 5 розбирає ці шари окремо.
Розмір моделі вимірюють у параметрах. Параметр - це число всередині моделі, яке змінилося під час навчання. Відкриті моделі 2026 року мають трильйони параметрів: DeepSeek V4-Pro - 1,6 трлн, Kimi K3 - 2,8 трлн. Розміри закритих флагманів - Claude, GPT, Gemini - компанії не публікують.
Трильйонні моделі можливі через архітектуру Mixture of Experts: параметри поділені на групи, і на кожен токен працює лише кілька груп. У DeepSeek V4-Pro на один токен активні 49 млрд параметрів з 1,6 трлн. Тому обчислення лишаються підйомними.
Практична різниця. Велика модель дає кращий результат на складних задачах: багатокроковий аналіз, довгі документи, код. За це вона платить швидкістю і ціною обчислень. Мала модель слабша на складному, але швидша і дешевша, і її вистачає на типові задачі. Тому сервіси тримають лінійку моделей і скеровують прості запити до малих, складні - до великих.
Третя характеристика - як модель навчали. Етапів три. Переднавчання: модель проходить трильйони токенів тексту і вчиться передбачати наступний токен. Донавчання на прикладах: модель бачить пари "запит - зразкова відповідь" і вчиться відповідати у такій формі. Навчання з оцінок: люди порівнюють варіанти відповідей, і модель вчиться обирати той варіант, який люди оцінили вище. Перший етап дає знання мови і фактів. Другий і третій роблять з моделі асистента.
Ядро LLM робить одну операцію: дивиться на текст і обирає наступний шматок тексту. Потім ще один. І ще. Відповідь - це багато таких кроків підряд.
Базова модель не зберігає базу фактів. Вона зберігає закономірності: який шматок тексту звичайно йде після якого. Все, що модель "знає", записане в параметрах станом на момент навчання - тому в неї є дата, після якої вона нічого не бачила.
Сама по собі модель не звіряється з реєстром перед відповіддю. Вона продовжує текст найімовірнішим способом. Тому відповідь завжди звучить гладко - і тоді, коли факт правильний, і тоді, коли модель його склала.
Але сучасний асистент - це не лише модель. У нього є інструменти: пошук в інтернеті, пошук по твоїх файлах, виконання коду. Модель може викликати інструмент, отримати результат у контекст і відповісти вже з опорою на нього.
Головний нюанс: асистент не вмикає перевірку завжди. На звичне питання він часто відповідає з параметрів - без пошуку. Тому перевірку варто просити прямо: "знайди першоджерело", "перевір за реєстром", "дай точну цитату і сторінку". Числа, номери справ і статті законів перевіряй за першоджерелом завжди - навіть коли асистент шукав сам.
Модель - лише ядро. Навколо неї стоїть кілька шарів, і кожен впливає на результат. Продукти називають ці шари по-різному, але механіка однакова: кожен шар додає текст у контекст моделі або дає їй інструмент.
Шари такі. Системний промт - інструкція від розробника продукту. Вона стоїть перед твоїм текстом у кожному запиті. Ти її не бачиш і не змінюєш. Вона задає поведінку, правила відмов і формат відповідей. Твої постійні інструкції - шар, який редагуєш ти: у ChatGPT це custom instructions, у Claude - preferences і styles, в API - власний системний промт. Памʼять - нотатки, які асистент зберігає між розмовами і підкладає в контекст нових розмов. Файли і бази знань - завантажені документи або корпус проєкту; пошук дістає з них шматки в контекст. Скіли - збережені інструкції під конкретну задачу, які вмикаються за потреби: Claude називає їх skills, ChatGPT - GPTs. Інструменти - пошук, виконання коду, виклики зовнішніх систем; модель викликає їх сама, результат повертається в контекст.
Обʼєднує все один факт: майже кожен шар - це текст, який потрапляє в те саме контекстне вікно поруч із твоїм питанням. Модель бачить один довгий текст: системний промт, твої інструкції, памʼять, шматки файлів, результати інструментів, твоє питання. Відповідь залежить від усього цього тексту, не лише від питання.
Звідси практичний висновок. Одна і та сама модель у різних обгортках дає різні результати. Якщо в одного користувача відповіді стабільно кращі - причина найчастіше в налаштованих шарах: інструкціях, підключених файлах, збережених скілах. Налаштування обгортки дає більший приріст, ніж перехід на новішу модель.
Модель не читає літери і слова. Текст ріжеться на шматки - токени. Для моделі кожен токен - це номер зі словника.
Ліміти і ціна рахуються в токенах. Один токен - це приблизно три чверті слова. Тому довгий документ коштує більше і займає більше місця в памʼяті розмови.
Контекст - це все, що модель бачить у цю мить: розмова, файли, інструкції, результати пошуку. Вікно контексту має розмір у токенах. Це памʼять моделі на одну розмову.
Розміри на серпень 2026. Стандарт робочих моделей - 200-400 тисяч токенів. Флагмани Claude, GPT і Gemini мають вікно в 1 мільйон. Окремі моделі заявляють до 10 мільйонів. Що це в матеріалах: 1 млн токенів - це приблизно 750 тисяч слів, близько 3000 сторінок. Договір на 20 сторінок - це 10-15 тисяч токенів. У вікно на 1 млн входить 60-100 таких документів.
Заявлений і робочий розмір - різні числа. Тести точного пошуку по контексту показують: якість стабільна приблизно до половини заявленого розміру. Далі частішають помилки на матеріалі з середини вікна. Практичне правило: плануй половину від заявленого.
Коли вікно повне, найстаріше випадає. Для моделі його більше не існує. Тому довгу роботу ділять на сесії і зберігають підсумки в окремому файлі.
Коротка відповідь: для одного документа це вже майже не потрібно. Сучасне вікно вміщує договір на сотні сторінок цілком. Різати його на шматки не треба.
Чанки лишаються потрібні для баз знань. Коли корпус більший за будь-яке вікно - тисячі документів - його ріжуть на шматки, а пошук дістає у вікно лише доречні. Оверлап - це перекриття сусідніх шматків, щоб думка не рвалася на межі.
Далі цей ланцюжок веде до практики: як формулювати запити і міфи з курсу.