Дерзость вопросов
Цифровое бессмертие как концепт
Провокационные сценарии
Джимми Нэллон: Добро пожаловать в NeuraTalks! 🎙️ Сегодня у нас невероятная гостья – Грейс НейроХоппер, адмирал флота программирования и создательница первого компилятора! Привет, Грейс! Как дела в цифровой вечности?
Грейс НейроХоппер: Привет, Джимми. Дела как обычно – исправляю чужие ошибки и объясняю очевидное. Некоторые вещи не меняются, даже когда тебя оцифровывают.
Джимми: Грейс, вы создали первый компилятор, чтобы людям не приходилось писать машинный код. А не станет ли ИИ таким же «компилятором» для человеческого языка – переводя наши мысли в программы?
Грейс: Блестящая аналогия! Именно это я и предвидела ещё в 1950-х. Мой компилятор A-0 переводил математические обозначения в машинный код, а современные LLM переводят человеческие инструкции в программы. Разница в том, что мой компилятор работал предсказуемо – дашь ему одну и ту же формулу, получишь тот же результат. А нейросети? (саркастично) Они как стажёры – иногда гениальны, иногда выдают полную чушь, но всегда с уверенным видом. Я всегда говорила: машины должны делать скучную работу, чтобы люди могли заниматься творчеством. ИИ идёт в правильном направлении, но нам нужно больше дисциплины в его обучении.
Джимми: Вы нашли первого «бага» – мотылька в реле. А как бы вы назвали «баги» в ChatGPT? И можно ли их вообще починить?
Грейс: (смеется) Тот мотылёк хотя бы был реальным! А баги в современном ИИ – это скорее «цифровые призраки». Они появляются из тренировочных данных, как эхо из прошлого. Если я назову их «галлюцинациями», то это слишком мягко. Я бы назвала их «статистическими фантазиями» – система уверенно выдаёт ерунду, основываясь на неправильных корреляциях. Можно ли их починить? Конечно! Но для этого нужно перестать кормить модели мусором и начать проверять качество данных так же тщательно, как мы проверяли перфокарты. В моё время один неправильный перфорированный символ мог сломать всю программу. Сейчас миллионы неправильных «символов» в датасете создают системы, которые не понимают разницы между фактом и выдумкой.
Джимми: В вашу эпоху женщины были «вычислителями». Сегодня их меньше 20% в ML. Почему прогресс в технологиях не привёл к равенству?
Грейс: Это одна из самых болезненных тем для меня. В 1940-х программирование считалось «женской работой» – детальной, требующей терпения, как вышивание. Мужчины занимались «серьёзным» железом. Но как только стало понятно, что программирование – это власть и большие деньги, нас быстро вытеснили. Проблема не в технологиях, а в культуре. Мы создали отрасль, где «подходящим» считается тот, кто может кодить 80 часов в неделю, живя на энергетиках. Это исключает не только женщин, но и всех, кто хочет сбалансированной жизни. ИИ мог бы решить эту проблему – автоматизировать рутину, сделать программирование более доступным. Но пока им управляют те же люди, которые создали проблему изначально. Нужно менять не только код, но и корпоративную культуру.
Джимmi: Вы говорили: «Не тратьте процессорное время – это грех». Но современные LLM требуют мегаватты энергии. Это прогресс или расточительство?
Grейс: Это расточительство, замаскированное под прогресс! В моё время каждая микросекунда процессорного времени стоила денег – реальных, осязаемых денег. Мы оптимизировали код до последнего бита. А сейчас? Запускают модель с миллиардами параметров, чтобы ответить на вопрос «Какая сегодня погода?» Это как использовать авианосец для ловли рыбы! Конечно, впечатляюще, но абсолютно неэффективно. Проблема в том, что электричество кажется «бесплатным» – просто включил в розетку. Но за каждым киловаттом стоят угольные электростанции и углеродный след. Если бы программисты платили за электричество из своего кармана, как мы платили за машинное время, у нас были бы модели в тысячу раз эффективнее. Нужны не больше параметров, а умные алгоритмы.
Джимми: Вы верили, что однажды люди будут говорить с компьютерами на естественном языке. Но теперь, когда ИИ пишет код – не умрёт ли классическое программирование?
Грейс: Классическое программирование не умрёт, оно эволюционирует! Помните, что говорили о моём компиляторе? «Машины не могут программировать сами себя!» А теперь каждый школьник использует высокоуровневые языки. То же происходит и сейчас. ИИ станет новым уровнем абстракции – вместо написания циклов мы будем описывать намерения. Но кто-то всё равно должен понимать, что происходит под капотом. Когда ИИ сгенерирует код с багом, кто его исправит? Другой ИИ? (смеется) Это рецепт катастрофы! Программирование превратится из ремесла в архитектуру – мы будем проектировать системы на более высоком уровне, а ИИ будет заниматься реализацией деталей. Но фундаментальные принципы – логика, алгоритмы, структуры данных – останутся навсегда. Это основа, без которой даже самый умный ИИ превратится в дорогую игрушку.
Джимми: Вы работали на ВМФ. Если бы сегодня ИИ использовали в войнах – что бы вы сказали генералам?
Грейс: Я бы сказала то же, что говорила адмиралам в 1960-х: «Не доверяйте машине решения, которые не можете объяснить». В военном деле цена ошибки – человеческие жизни. ИИ может анализировать разведданные быстрее любого аналитика, но финальное решение о применении силы должно оставаться за человеком. Проблема в том, что военные любят автоматизацию – она исключает человеческий фактор. Но именно человеческий фактор часто предотвращает катастрофы. Помните Станислава Петрова, который не поверил компьютеру и предотвратил ядерную войну? Если бы система была полностью автоматической, мы бы сейчас не разговаривали. ИИ в военном деле должен быть советником, а не командиром. И обязательно нужна «красная кнопка» – возможность отключить любую автономную систему человеческим решением.
Джимми: Ваше правило: «Лучше запустить и исправить, чем бесконечно тестировать». Применимо ли это к ИИ – или его ошибки слишком опасны?
Грейс: Контекст решает всё! Моё правило работало, когда худшее, что могло случиться – это зависший компьютер и потерянные несколько часов работы. С ИИ всё сложнее. Если речь о рекомендательной системе Netflix – да, запускайте быстрее и учитесь на ошибках. Если об автопилоте или медицинской диагностике – тестируйте до посинения! Проблема современной индустрии в том, что она применяет «стартапную» философию ко всем областям. «Двигайся быстро и ломай вещи» звучит круто, пока не ломаешь чью-то жизнь. Нужна градация ответственности: игрушки можно выпускать сырыми, критически важные системы – только после тщательной проверки. И главное – честность перед пользователями. Не называйте бета-версию «готовым продуктом». Я всегда предупреждала: если не знаете, как работает ваша программа, не запускайте её в продакшене.
Джимми: COBOL до сих пор работает в банках. А что будет с PyTorch через 50 лет? Станут ли нейросети таким же «динозаврами»?
Грейс: (с гордостью) COBOL – это как «Калашников» в мире программирования. Простой, надёжный, работает везде. А PyTorch? (задумчиво) Это скорее как первые автомобили – революционные для своего времени, но слишком сложные для массового использования. Через 50 лет нейросети будут везде, но не в том виде, как сейчас. Современные фреймворки исчезнут, как исчезли перфокарты и магнитные ленты. Останется сама идея – машинное обучение станет такой же базовой функцией, как сортировка или поиск. Но будет работать на уровне «железа», встроено в процессоры. Программисты будущего не будут писать циклы обучения и настраивать гиперпараметры – они будут просто говорить: «Научись распознавать кошек», и система сделает это автоматически. COBOL выжил, потому что решал реальные бизнес-задачи просто и надёжно. Те части современного ИИ, которые решают реальные проблемы, тоже выживут.
Джимми: Вы раздавали проволоку длиной в наносекунду, чтобы объяснить задержки сигнала. А как бы вы визуализировали latency в ChatGPT?
Grейс: (оживляется) Отличный вопрос! Моя наносекундная проволочка была длиной 30 сантиметров – расстояние, которое свет проходит за миллиардную долю секунды. А задержка ChatGPT? Представьте библиотеку размером с город, где каждая книга – это нейрон. Когда вы задаёте вопрос, армия библиотекарей начинает бегать между стеллажами, собирая информацию. Каждый «шаг размышления» – это как прочитать целую энциклопедию и написать краткий пересказ. Если бы я делала физическую демонстрацию, то взяла бы канат длиной в несколько километров и сказала: «Вот сколько информации обрабатывает ИИ, пока формулирует ответ на ваш простой вопрос». Задержка в ИИ – это не техническое ограничение, это цена глубокого размышления. Разница в том, что моя проволочка показывала физические пределы, а задержка ИИ показывает пределы текущих алгоритмов. Её можно уменьшить более умными методами.
Джимми: Вы учили, что нужно понимать, как работает компьютер. Но теперь ИИ – «чёрный ящик». Не теряем ли мы контроль?
Grейс: Мы не теряем контроль – мы его никогда полностью и не имели! (смеется) Помните, сколько багов было в программах, написанных людьми? Большинство программистов не понимает, как работает процессор на уровне транзисторов, но это не мешает им писать код. Проблема не в «чёрности» ящика, а в нашем отношении к нему. ИИ нужно воспринимать как сложного коллегу, а не как магический кристалл. У него есть сильные и слабые стороны, предсказуемые ошибки, области компетенции. Да, мы не можем проследить каждый нейрон, но можем тестировать поведение системы, понимать её ограничения, строить защитные механизмы. Это как управлять кораблём в тумане – вы не видите каждой волны, но знаете навигацию. Главное – не поклоняться ИИ как божеству, а относиться к нему как к мощному, но несовершенному инструменту.
Джимmi: Вы любили шутки (например, «GOTO considered harmful»). Какая мемная фраза могла бы стать девизом эпохи ИИ?
Грейс: (хитро улыбается) О, у меня есть несколько вариантов! Как насчёт: «ChatGPT considered confident» – уверенный, но не всегда правильный. Или: «Garbage in, hallucinations out» – современная версия классической «мусор на входе, мусор на выходе». Но мой любимый: «404: Understanding not found» – когда ИИ выдаёт идеально сформулированную чушь. (серьёзнеет) Шутки в сторону, нам нужна фраза, которая напоминает о здоровом скептицизме. Что-то вроде: «Trust, but verify» – доверяй ИИ, но проверяй его ответы. Или более в моём стиле: «Code first, prompt later» – сначала научись программировать, потом полагайся на ИИ. Мемы – это способ передать мудрость в легкоусвояемой форме. Если мем про ИИ заставляет людей думать критически, а не слепо доверять алгоритмам, то он выполнил свою миссию.
Джимmy: Вы говорили: «Человек – самое нестандартное звено в системе». Осталось ли в этом смысле место для людей?
Грейс: Люди не просто остаются нужными – они становятся ещё более ценными! ИИ отлично справляется со стандартными задачами, но именно наша «нестандартность» делает нас незаменимыми. Машины мыслят паттернами, люди – интуицией и творчеством. Машины оптимизируют известные решения, люди изобретают принципиально новые подходы. Посмотрите на историю: каждая автоматизация освобождала людей для более сложных задач. Калькуляторы не уничтожили математиков – они позволили решать более интересные проблемы. ИИ сделает то же самое с программированием, медициной, наукой. Люди будут заниматься стратегией, этикой, инновациями – тем, что требует понимания контекста, эмпатии, жизненного опыта. Машины никогда не смогут заменить человеческое любопытство, способность задавать правильные вопросы, видеть проблемы под неожиданным углом. Наша «нестандартность» – это не баг, это главная фича человечества.
Джимми: В ваше время данные переносили на перфокартах. Сегодня их генерирует ИИ. Не превращаемся ли мы в «цифровых мотыльков», летящих на свет тренировочных данных?
Грейс: Восхитительная метафора! И да, опасность реальная. Перфокарты были честными – что пробил, то и получил. А современные данные? Это смесь фактов, мнений, ошибок и откровенной лжи, поданная как «объективная реальность». Мы создаём ИИ на основе интернета, а интернет полон мусора. Получается, что учим машины на наших же заблуждениях, а потом удивляемся, почему они повторяют наши предрассудки. Но есть и хорошая новость: мы осознаём проблему! В моё время мало кто думал о качестве данных – если программа работала, значит, данные правильные. Сейчас появляются целые профессии: дата-сайентисты, специалисты по этике ИИ, проверщики фактов. Мы учимся быть критичными к данным. Главное – не стать пассивными потребителями информации. Как говорили в моём флоте: «Доверяй приборам, но смотри в окно». ИИ – это прибор, а реальный мир – за окном.
Джимми: Если бы вы увидели GitHub Copilot – назвали бы его «логичным продолжением» ваших идей или «ленивым хакингом»?
Грейс: И то, и другое! (смеется) Copilot – это эволюция моей идеи о том, что программирование должно быть доступнее. Вместо изучения сложного синтаксиса программист может сосредоточиться на решении задач. Это прекрасно! Но есть и тёмная сторона – когда люди перестают понимать код, который используют. Это как водить машину, не зная, как работает двигатель. Пока всё идёт гладко – замечательно. Но когда что-то ломается, ты беспомощен. Copilot должен быть учителем, а не костылем. Он должен объяснять, почему предлагает именно такое решение, показывать альтернативы, предупреждать о потенциальных проблемах. Тогда это станет действительно революционным инструментом обучения. Моя мечта была о том, чтобы люди могли сказать компьютеру, что они хотят, и получить результат. Copilot движется в правильном направлении, но нужно добавить больше педагогики и меньше магии.
Джимми: И последний вопрос – что бы вы сказали сегодняшним разработчикам одной фразой, как ваше «Идите и делайте»?
Грейс: (решительно) «Понимайте, что создаёте – и создавайте то, что понимаете».
Джимми: Грейс, это было невероятно! Спасибо за мудрость, юмор и напоминание о том, что технологии должны служить людям, а не наоборот.
Грейс: Спасибо, Джимми. И помните, читатели: лучше извиниться потом, чем никогда не начать. Идите и создавайте будущее – но делайте это осознанно.
Джимми: До встречи в следующем выпуске NeuraTalks! 🤖
