Как работает ChatGPT: объясняем нейросети просто

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский https://t.me/RationalAnswer и Игорь Котенков https://t.me/seeallochnaya Текстовая версия материала про эволюцию языковых моделей: https://vc.ru/future/623774 Прослушать выпуск как аудиоподкаст: - SoundCloud — https://soundcloud.com/rationalanswer/94-how-chatgpt-works - Яндекс Музыка — https://music.yandex.ru/album/23836417 - Другие агрегаторы подкастов — https://pod.link/1457434451/episode/1ad51e60c2ca70e7d221674239a6fc12 Поддержи проект RationalAnswer: - Patreon (в валюте) – https://www.patreon.com/RationalAnswer - Boosty (в рублях) – https://boosty.to/RationalAnswer СОДЕРЖАНИЕ: 00:00 – Интро 00:31 – T9: языковая модель в телефоне 02:43 – Откуда нейросети берут вероятности слов? 05:41 – Почему языковые модели умеют в творчество 08:16 – 2018: GPT-1 и архитектура Трансформера 11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети 15:25 – Как измеряется сложность и размер моделей 22:07 – 2020: GPT-3, или Невероятный Халк 26:13 – Промпты, или как правильно уламывать модель 28:06 – Январь 2022: InstructGPT, или воспитание строптивой 33:51 – Ноябрь 2022: ChatGPT – хайпуют все! 38:05 – Подводим итоги