Объединение человека и машины для совершенствования полупроводниковых технологий

Введение

Полупроводниковые чипы лежат в основе каждой системы искусственного интеллекта (ИИ) в мире, работая с цифровыми состояниями «0» и «1», определяемыми нанометровыми транзисторами и ячейками памяти. Изготовление этих миниатюрных устройств на кремниевых пластинах представляет собой сложный производственный процесс, включающий сотни специализированных технологических операций, почти половина которых требует сложных химических плазменных процессов, таких как травление и осаждение [3]. По иронии судьбы, разработка этих критически важных процессов, обеспечивающих работу ИИ, по-прежнему осуществляется инженерами-технологами, которые используют свою интуицию и опыт, часто прибегая к методу проб и ошибок. Вопрос допуска ИИ к разработке процессов для создания новых чипов представляет общий интерес, поскольку автоматизация этой деятельности может вызвать сценарии так называемой «сингулярности», при которой ИИ эффективно учится самовоспроизводству [4, 5].

Есть множество примеров компьютерных алгоритмов, превосходящих людей в сложных задачах, таких как демонстрация мастерства в настольных играх, например в шахматах и го [6, 7]. Однако в этих случаях компьютер принимает решения только после обучения на большом количестве не столь дорогих данных. Напротив, сбор данных о процессах на кремниевых пластинах обходится недёшево: более тысячи долларов США за эксперимент для пластины, работы плазменного оборудования и электронной микроскопии. Следовательно, инженеры обычно разрабатывают полупроводниковые процессы, тестируя только порядка сотни из потенциально многих триллионов различных комбинаций параметров плазмы, таких как давление, мощность, потоки реактивного газа и температура пластины. В отличие от настольных игр, которые имеют чёткие правила, системы пластина–реактор управляются бесчисленным количеством микроскопических физических и химических взаимодействий между материалом пластины, частицами плазмы и частями реактора [8, 9]. Отсутствие достаточного количества данных в конкретной интересующей области затрудняет формирование компьютерных моделей с точностью до атомного масштаба, что известно как проблема «малых данных» [10]. Таким образом, задача, которую мы ставим перед ИИ, состоит в том, чтобы снизить целевую стоимость (то есть свести к минимуму количество данных, которые необходимо собрать) разработки полупроводникового процесса по сравнению с разработкой опытным инженером-технологом.

В этой работе мы сравнили производительность компьютерных алгоритмов с опытными инженерами-технологами, сосредоточив внимание на сценарии, в котором неподготовленный компьютер имеет доступ только к собранным данным. Вдохновлённые подходами ИИ к шахматам, в которых программные агенты соревнуются с людьми, мы создали игру по разработке процессов, в которой цель игрока – человека или компьютерного алгоритма – состоит в том, чтобы разработать сложный процесс с наименьшими затратами на достижение цели. Проведение такого соревнования с использованием настоящих пластин было бы дорогим и непрактичным из-за неконтролируемой изменчивости поступающих пластин, метрологического и технологического оборудования, что затруднило бы интерпретацию результатов. Чтобы преодолеть эти практические трудности, мы провели соревнование на сложной виртуальной платформе, которая позволяет сравнивать действия участников в рамках одного и того же процесса.

Игра-соревнование между человеком и ИИ

Конкурс проводился в виртуальной среде, напоминающей лабораторию, как схематично показано на рис. 1.

Процесс нашего исследования представляет собой плазменное травление отверстия с высоким коэффициентом сжатия в плёнке диоксида кремния, которое наряду с многими другими этапами используется для изготовления полупроводниковых чипов [11]. Моделирование этого процесса было параметризовано и откалибровано на основе существующих данных в запатентованном симуляторе профиля характеристик с использованием основанных на физике эмпирических соотношений, чтобы связать метод комбинации входных параметров инструмента с выходным результатом травления на виртуальной пластине. Для участника этот симулятор служит эффективным чёрным ящиком [9] преобразования метода (например, значений давления, мощности и температуры) в требования технологического этапа, необходимого для производства полупроводникового чипа.

Как и в лаборатории, цель игры состоит в том, чтобы свести к минимуму целевые затраты на поиск метода, обеспечивающего выходные показатели, соответствующие цели. Участник отправляет партию (один или несколько методов) и получает выходные метрики и изображения профиля поперечного сечения. Участник продолжает отправлять партии до тех пор, пока цель не будет достигнута (рис. 1). Мы определяем «траекторию» как серию партий, выполненных для достижения цели. Исходя из фактических затрат, мы определяем стоимость метода в размере 1000 долларов США для затрат на пластины и накладные расходы в размере 1000 долларов США на партию для работы с инструментом. Существует множество потенциальных выигрышных методов из-за высокого уровня погрешности во входных параметрах. Тем не менее мы с самого начала установили низкие шансы случайного достижения цели: 0,003% на метод на основе 35 000 случайных образцов.

Эталонное оценивание специалистов-людей

Ориентир для целевой стоимости был определён игроками-людьми. Среди добровольцев нашлось шесть профессиональных инженеров-технологов со степенью кандидата физических наук: три старших инженера с опытом работы более семи лет и три младших инженера с опытом работы менее одного года. Инженеры разработали свои эксперименты, используя механистические гипотезы, основанные на их предыдущих знаниях о тенденциях процесса и зависимостях параметров плазмы. Они выбрали средний размер партии из четырёх методов, используя одномерные или двумерные изменения параметров в 95% всех вариантов. Для справки, также участвовали три человека без соответствующего опыта работы с процессами.

Траектории технологов показаны на рис. 2. Они показывают качественно сходные пути с постепенным продвижением к цели, которые мы характеризуем как два этапа: грубая настройка и тонкая настройка. Грубая настройка относится к начальному быстрому прогрессу по направлению к цели, тогда как точная настройка относится к медленному прогрессу в конце траектории, на котором инженеры изо всех сил пытались одновременно улучшить все выходные показатели. Старшим инженерам требуется примерно половина стоимости младших инженеров для того же прогресса. Победивший участник-человек – старший инженер № 1 с целевой стоимостью 105 000 долларов США, как показано на рис. 2. Это наш «экспертный» человеческий ориентир.

Эталонное оценивание компьютерных алгоритмов

Компьютерные алгоритмы, участвующие в этом конкурсе, представляют собой байесовские оптимизации – широко используемый метод машинного обучения для дорогостоящих функций чёрного ящика [12, 13, 14]. Этот класс алгоритмов изучался на других приложениях в полупроводниковой промышленности [15, 16, 17]. Были выбраны три различные разновидности байесовских оптимизаций:

1) Algo1 с использованием выборки Монте-Карло с цепью Маркова [18], многомерной линейной суррогатной модели для компенсации высокой вычислительной стоимости выборки и функции ожидаемого улучшения (EI);

2) Algo2 из программного обеспечения с открытым исходным кодом, использующего древовидную структуру Parzen Estimator с функцией получения EI [19, 20];

3) Algo3 с использованием модели процесса Гаусса [21] и функции сбора данных с более низкой доверительной границей.

Все алгоритмы используют масштабированное евклидово расстояние в качестве целевой функции и запускались без какого-либо обучения и с использованием неинформативных априорных значений [22].

Алгоритмы были запрограммированы на использование выходных показателей, но не выходных изображений профилей, поэтому они фактически игнорировались. Для каждой партии использовался только один метод, что является значением по умолчанию для байесовской оптимизации [23]. Траектории были повторены 100 раз для статистической релевантности, чтобы учесть присущую случайность в стоимости достижения цели из-за вероятностного характера байесовской оптимизации. Чтобы сэкономить вычислительное время, траектории усекались, если они не соответствовали целевому показателю до экспертного ориентира в 105 000 долларов США. Мы определяем «показатель успеха» как процент траекторий с более низкой стоимостью достижения цели, чем у эксперта. Для справки, вероятность успеха только от чистой случайности оценивается менее чем в 0,2% (на основе вероятности 0,003% на метод, упомянутой ранее).

Алгоритмы запускали каждую траекторию со случайно сгенерированного начального числа из латинского гиперкуба, а затем генерировали один метод для каждой партии. На панелях рис. 3 результаты отмечены как «без человека».

Показатели успеха низкие: менее 1% для Algo1, 2% для Algo2 и 11% для Algo3. В общей сложности только 13 из 300 (менее 5%) попыток обыграли эксперта. Для справки, мы позволили одной траектории Algo2 выйти за предел усечения, в итоге достигнув цели в 739 000 долларов США, что на много порядков дороже, чем результаты экспертов. В целом, одни только алгоритмы не смогли выиграть состязание с человеком-экспертом.

Стратегия «сначала человек – компьютер в последнюю очередь»

Мы предположили, что алгоритмы потерпели неудачу, потому что они тратят впустую свои попытки для экспериментов, перебирая огромное количество конфигураций процессов без каких-либо предварительных знаний. Напротив, мы предположили, что инженеры-технологи опирались на свой опыт и интуицию, чтобы принимать более правильные решения на начальном этапе навигации. Поэтому мы решили протестировать гибридную стратегию, в которой эксперт управляет алгоритмами в сценарии «сначала человек – компьютер в последнюю очередь» (HF–CL). В этой реализации вместо случайной выборки эксперт предоставляет экспериментальные данные, собранные до точки перехода, обозначенной от A до E на рис. 2, вместе с диапазоном поиска, ограниченным экспертом. Для справки, вероятность успеха для нахождения цели в этом «ограниченном» диапазоне поиска оценивается в 13%, исходя из 0,27% вероятности достижения цели на каждый метод из 2700 случайных выборок. В стратегии HF-CL, как только компьютер берёт на себя принятие решений, эксперт фактически отказывается от контроля и больше не играет никакой роли в планировании эксперимента. Как и прежде, для статистической достоверности каждое условие повторялось 100 раз.

В стратегии HF–CL точка передачи A обеспечивает наименьшее количество данных от эксперта к компьютерному алгоритму. На данный момент медианная целевая стоимость для HF–CL всё ещё постоянно выше, чем у одного эксперта, с коэффициентом успеха всего 20% для Algo1, 43% для Algo2 и 42% для Algo3. Хотя эти значения значительно выше, чем результаты только для компьютеров, вероятность успеха менее 50% указывает на то, что затраты, скорее всего, увеличатся, а не уменьшатся. Таким образом, хотя некоторые начальные рекомендации улучшили производительность компьютерного алгоритма, HF–CL статистически даёт сбой в точке A.

На рис. 3 показаны результаты HF–CL с увеличением количества данных, предоставляемых компьютерному алгоритму. Мы наблюдаем V-образную зависимость целевых затрат от количества экспертных данных. От точек A до C доступ к большему количеству экспертных данных снижает общую стоимость достижения цели по мере повышения производительности алгоритма. Однако после точки C тенденция меняется на противоположную, когда доступ к большему количеству экспертных данных увеличивает стоимость без явных преимуществ алгоритма. Оптимальная производительность HF–CL для всех алгоритмов находится в точке C. Algo3 значительно превосходит другие алгоритмы, что связано либо с гибкостью моделей гауссовых процессов, либо с его иной функцией сбора данных, поскольку было показано, что алгоритм с более низкой доверительной границей превосходит функцию EI [23]. HF–CL с Algo3 устанавливает новый эталон со средней целевой стоимостью 52 000 долларов США, что составляет чуть менее половины затрат, требуемых только экспертом.

Таким образом, стратегия HF–CL с использованием эксперта в партнёрстве с Algo3 выиграла соревнование, надёжно снизив целевые затраты на разработку процесса плазменного травления по сравнению с экспертным эталоном.

Объяснение результатов

Виртуальная среда процессов предоставляет средства для тестирования различных подходов к разработке технологий в полупроводниковой промышленности, деятельность, которая в реальной лаборатории была бы чрезмерно дорогостоящей. Производительность людей с разным уровнем квалификации – от экспертов до новичков – обеспечивает качественные точки сравнения одного и того же процесса. Результаты показывают, что старшие инженеры-технологи разрабатывают процессы примерно вдвое дешевле, чем младшие инженеры-технологи, что указывает на важность знания предметной области в нашей отрасли. Компьютерные алгоритмы без какой-либо предварительной подготовки показали низкую производительность по сравнению с экспертом: менее 5% всех их траекторий достигают цели при более низкой стоимости достижения цели. Это подтверждает наши первоначальные ожидания, что компьютерные алгоритмы, запускаемые с нуля, не выдерживают конкуренции – они могут достичь поставленной цели, но со слишком высокими издержками. Это проявление проблемы «малых данных». Мы просто не можем позволить себе достаточный объём данных, необходимый компьютеру для точного предсказания метода процесса.

Ключевым результатом этого исследования является успех стратегии HF–CL. Эта стратегия основана на том, что эксперт имеет преимущество на ранней стадии разработки процесса, а компьютерный алгоритм превосходит человека на более поздней стадии. Было показано, что благодаря сочетанию этих преимуществ HF–CL снижает затраты на достижение цели вдвое по сравнению с одним только экспертом. Преимущество человека-эксперта объясняется важностью знания предметной области, которого не хватало этим алгоритмам для качественной навигации по, казалось бы, безграничным возможностям выбора методов. Может показаться интуитивным, что человеческое руководство помогает компьютерам, но если алгоритмы лучше справляются с огромными сложными задачами, предположительно, они могли бы доминировать в начале разработки [24]. Вместо этого компьютерные алгоритмы становятся компетентными только после предоставления соответствующих данных и, желательно, также с ограниченным диапазоном. Принцип HF–CL напоминает ранние попытки решения проблем ИИ с предположением, что его можно применять и в других ситуациях с небольшим объёмом данных. Например, на заре компьютерных шахмат (до эпохи больших данных) первая программа в 1951 году была развёрнута только для двух последних ходов, тогда как начальные ходы остаются в основном такими же, как те, что определяются людьми [6]. В фолдинге белков метод направленной эволюции, получивший Нобелевскую премию, также требует «подходящей отправной точки», обозначенной людьми [25].

Хотя эффективность HF–CL может показаться очевидной в ретроспективе, результаты показывают, что стратегия работает только при определённых обстоятельствах. Даже при наличии партнёрства с опытным инженером успех HF-CL сильно зависит от того, в какой момент человек передаст эстафету компьютеру: если слишком рано, алгоритмам будет не хватать достаточного руководства; если слишком поздно, человек становится фактором повышенных затрат. Этот принцип воплощён в выпуклой V-образной зависимости от дополнительных экспертных данных на рис. 3. Наша интерпретация формы V заключается в том, что глубина представляет максимальную экономию средств по сравнению с экспертом, тогда как вершина представляет собой оптимальную точку перехода от человека к компьютеру. Левая часть V соответствует улучшенной производительности алгоритмов с большим количеством данных. Эта часть V согласуется с ранее опубликованными наблюдениями и общим представлением о том, что чем больше данных, тем лучше [10].

Более необычная и заметная часть фигуры V – правая сторона. Именно здесь стоимость достижения цели возрастает даже по мере того, как алгоритмы получают доступ к большему количеству экспертных данных. Здесь высокая стоимость данных привела к общему повышению затрат за неоптимальный выбор метода человеком, что иллюстрирует важность качества данных. Ценность интуиции даже для нашего опытного старшего инженера заметно уменьшилась, что позволило компьютерным алгоритмам стать статистически более успешными в выборе рецептов. Перекрытие инвертированного режима с этапом тонкой настройки предполагает, что этот этап может быть лучше пройден компьютерными алгоритмами. Наблюдение за V-образным феноменом для различных комбинаций человека и компьютера укрепляет нашу уверенность в том, что наши выводы применимы к этой проблеме с недостаточностью данных, несмотря на относительно небольшое число проведённых тестов. Кроме того, мы считаем, что явление V-образной кривой является естественным следствием попыток минимизировать затраты в условиях ограниченности дорогостоящих данных и жёстких допусков, как это имеет место во многих производственных процессах, когда потребность в большем количестве данных напрямую конкурирует со стоимостью получения этих данных.

Для того чтобы промышленность могла применить уроки стратегии HF–CL к реальному производству полупроводников, будет важно понять, как эти идеи применимы к другим процессам и когда люди должны отказаться от контроля, а именно, как определить идеальный момент передачи контроля алгоритмам. Мы показали, что экономия затрат зависит от конкретной комбинации человек–алгоритм (рис. 3). Кроме того, мы ожидаем, что правая часть V может не проявиться, если требования по целям были снижены, или, наоборот, может доминировать в процессах, которые нуждаются только в перенастройке, такой как согласование камер (или перенос процесса на другой инструмент). Человеческие знания могут быть особенно важны в многомерном исследовательском пространстве, задерживая передачу их компьютеру. Другими факторами, которые могут повлиять на момент передачи, являются технологический шум, дрейф технологического процесса, целевой допуск, размер партии, ограниченный диапазон и структура затрат. Нам предстоит ещё многое проверить и многому научиться. Эти темы являются хорошими кандидатами для дальнейшего систематического изучения на платформе виртуальных процессов.

Помимо технических проблем, вероятно, возникнут и культурные проблемы в партнёрстве людей с компьютерами [26, 27]. В нашем исследовании мы наблюдали, как поведение компьютера расходится с тем, как инженеры-технологи обычно разрабатывают процессы.

Инженеры почти исключительно использовали одномерные и двумерные изменения параметров для рационализации своего экспериментального плана, тогда как компьютеры использовали многомерные изменения параметров без каких-либо объяснений. Людям может быть трудно принять методы, которые они не понимают.

Инженеры запрашивали в среднем четыре эксперимента на партию, в то время как компьютеры ограничивались только одним экспериментом на партию, что, вероятно, считалось неэффективным в лаборатории.

Инженеры неуклонно продвигались к цели (рис. 2), в то время как компьютеры использовали исследовательские стратегии выбора метода, которые кажутся проигрышными. Противоречивые ходы ИИ хорошо задокументированы в поединках между компьютером и человеком в настольных играх [28]. В лаборатории инженеры-технологи наверняка будут сопротивляться вмешательству и непреднамеренному повышению затрат без каких-либо гарантий успеха. В конечном счёте, доверие к компьютерным алгоритмам будет означать изменение десятилетий культурных ожиданий в области разработки процессов. Мы надеемся, что виртуальная среда поможет инженерам-технологам лучше понять, как сотрудничать с компьютерами в разработке технологических процессов.

Выводы

Применение ИИ в технологических процессах всё ещё находится в зачаточном состоянии. Человеческий опыт останется важным в обозримом будущем, поскольку знание предметной области является незаменимым для навигации на более ранних этапах разработки процесса. Тем не менее успех стратегии HF–CL показывает нам, что люди, как и в предыдущих приложениях автоматизации, скоро будут освобождены от утомительных аспектов разработки процессов. В будущем возможности компьютерных алгоритмов могут быть расширены за счёт кодирования знаний предметной области в алгоритмы (явно или косвенно), чтобы обеспечить более ранние точки передачи контроля над разработкой. Существует богатая литература по обучению с переносом домена, в которой данные из похожих, но не идентичных доменов могут быть использованы для ускорения обучения в новых доменах [29]. Ещё одним перспективным направлением в области ИИ является запечатление знаний о предметной области в форме предшествующего убеждения. [23, 30]. В самом деле, создание или изучение подходящего антецедента можно рассматривать как конкуренцию изучаемой здесь стратегии HF–CL. Другие потенциальные подходы в литературе включают модели механистической физики [10]. В любом случае крайне нелинейные и сложные отношения между входными и выходными параметрами означают, что потребуется больше данных для обновления любой предыдущей модели вблизи цели, в которой становятся заметными взаимодействия более высокого порядка. Постоянная потребность в большем количестве данных в конкретных режимах, представляющих интерес, практически гарантирует, что разработка процессов будет по-прежнему восприимчива к проблеме нехватки данных даже при условия использования компьютерных алгоритмов.

Таким образом, хотя компьютерные алгоритмы сами по себе смогли разработать процесс независимо, используя большие объёмы данных, они не смогли сделать это с меньшими затратами на достижение цели, чем человек. Только в партнёрстве с экспертом, который руководит гибридным режимом, алгоритмы могут продемонстрировать заметный успех в выполнении задач. Результаты этого исследования указывают на способ существенного снижения затрат на достижение цели за счёт объединения преимуществ человека и компьютера. Этот нетрадиционный подход к проектированию процессов потребует изменений в человеческом поведении, чтобы реализовать его преимущества. Результаты этого исследования укрепляют нашу уверенность в том, что мы находимся на пути к заметному изменению способов разработки процессов для полупроводниковых микросхем. При этом мы ускорим критическое звено в полупроводниковой экосистеме, используя ту самую вычислительную мощность, которую обеспечивают эти полупроводниковые процессы. По сути, ИИ будет помогать создавать себя, подобно знаменитому рисунку М.К. Эшера, на котором две руки рисуют друг друга.

Литература

Если вам понравился материал, кликните значок - вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал - не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!