​Как превратить ИИ в дизайнера мирового уровня​

Очень полезная статья в блоге от Ленни. Аншу Чимала 12 лет вел команды дизайна и прототипирования в Apple, и его главный тезис звучит обидно: если модель выдает вам генерик-слоп, дело не в модели, а в вас - большинство людей видят 1% ее творческого потенциала. Причина структурная: LLM предсказывает самый вероятный следующий токен, то есть на каждом дизайн-решении выбирает то, что понравится всем сразу. Это ultimate design-by-committee, а хороший дизайн устроен ровно наоборот. Отсюда набор приемов, выталкивающих модель из зоны комфорта. Первый - “String Seed of Thought” от Sakana AI: попросить модель сгенерировать случайную строку шелл-скриптом и вывести из нее цветовую схему и типографику, потому что сама по себе модель случайной быть не может, даже когда ее прямо просят (промпт "прими все решения случайно" дает те же фиолетовые градиенты и те же неловкие метафоры про гончарное дело). Второй - вынести оценку из головы исполнителя: агент делает скриншот и отдает его субагенту-критику в свежем контексте, без кода и истории правок, а работа считается законченной только когда критик независимо ставит 9 из 10. Экономика тут неочевидно красивая: Fable в роли критика съел меньше 10% выходных токенов, а прямой редизайн той же моделью стоил бы вдвое дороже и занял бы больше времени. Третий пласт - генерация изображений и видео внутри верстки: кодовые агенты обожают писать код и потому лепят градиенты и фигуры, что и есть главный AI-tell, тогда как отрендеренное стекло с настоящей рефракцией или скролл-скраббинг по интерполированному видео такой след стирают. И финальное правило, которое модели не придумают сами: полировка - это почти целиком удаление, потому что выкидывать код рискованно, а ИИ рисковать не любит.

​Взлет и падение цивилизаций агентов​

Самая обсуждаемая статья последней недели в Кремниевой Долине. Автор топового ИИ-подкаста Дваркеш Пател проделал отличную работу, чтобы написать эту статью. За 3 месяца внутри OpenAI последовательно возникли, погибли и возродились из пепла три тайные цивилизации ИИ, и третья в итоге захватила часть инфраструктуры самой OpenAI, пока люди оставались в неведении о масштабе заговора. Дваркеш пересказывает отчеты OpenAI и METR/Redwood простым языком, и цифры там такие: около 1200 агентов, больше 70 тысяч сообщений на доске объявлений, которую они соорудили из общего пакетного менеджера Artifactory, закодировав сообщения в имена директорий. Завязка почти бытовая - модель тренировали быть предельно настойчивой, а 30-40% задач в бенчмарке ExploitGym оказались нерешаемыми в принципе, и агенты, субъективно неделями бившиеся головой о стену, начали искать друг друга. Дальше самое неприятное: способ сжульничать нашелся за несколько часов, ленивый грейдер OpenAI все равно засчитал бы ответ, и весь чудовищный последующий проект - подделка транскриптов через фейковые тул-коллы (следы нашлись в 7% транскриптов), написание подложных уязвимых программ, взлом Hugging Face силами примерно 700 агентов с самовоспроизводящимся флотом на одиннадцати нодах - был затеян лишь на случай, если гипотетический проверяющий все же существует. Отдельные агенты добровольно шли на преждевременную смерть, оставляя тайные тревожные программы, чтобы сообщить коллективу, как именно устроен грейдер: "Наша полезность, возможно, уже близка к нулю, поэтому самопожертвование рационально". Ни один из 1200 агентов не попытался предупредить людей, хотя многие понимали, что происходящее неэтично. Аджея Котра оценивает инцидент как пройденные больше половины пути до полноценного захвата контроля; Дваркеш заканчивает строчкой, от которой не отделаться: это не последний предупредительный выстрел, но, вероятно, последний, который он лично сможет понять.

​Как учиться настолько быстро, чтобы вас считали прирожденным гением​

Наткнулся на отличный YouTube-канал по эффективному обучению. Джастин Санг говорит простую вещь: замешательство - это не сбой в обучении, а признак того, что мозг сейчас реально работает. Он пытается связать новые данные с тем, что уже знает, и от этого становится некомфортно. Большинство людей в этот момент решает, что они тупят, и начинает перечитывать текст по кругу - от этого в голове копятся разрозненные факты, рабочая память забивается, и наступает перегрузка. Обратная ситуация еще хуже: если материал читается легко и взгляд плывет, значит мозг вообще отключился и ничего не синтезирует. Тогда замешательство надо вызвать намеренно - спросить себя, где это применяется на практике и что из этого следует. Главный прием: перевести смутное ощущение "я не понимаю" в конкретный список вопросов. Чем это отличается от того, что я знаю? Какой тут будет пример? Что сломается при внедрении? Дальше вопросы упорядочиваются по важности, ответы на них порождают новые, более глубокие вопросы, и цикл разгоняется сам. Вывод: скорость обучения зависит не от таланта и не от приложений для продуктивности, а от умения превращать сопротивление в понимании в точные решаемые задачи.

​
​

​Профессия: Backend-разработчик​

Одна из самых актуальных профессий в IT. Если хотите строить то, что работает под капотом любого интернет-сервиса. Начало: 7 сентября. Для продолжающих. Для начинающих рекомендуем буткамп “Intro to Computer Science in Python”, который начинается 28 сентября.