Проект: язык программирования

Search…
То, что проверяет и определяет смысл выражений в языке программирования, является в свою очередь просто программой.
Хэл Абельсон и Жеральд Сасман, «Структура и интерпретация компьютерных программ».
Когда ученик спросил учителя о природе цикла Данных и Контроля, Юань-Ма ответил: «Подумай о компиляторе, компилирующем самого себя».
Мастер Юань-Ма, «Книга программирования»
Создать свой язык программирования удивительно легко (пока вы не ставите запредельных целей) и довольно поучительно.
Главное, что я хочу продемонстрировать в этой главе – в построении языка нет никакой магии. Мне часто казалось, что некоторые человеческие изобретения настолько сложны и заумны, что мне их никогда не понять. Однако после небольшого самообразования и ковыряния такие штуки часто оказываются довольно обыденными.
Мы построим язык программирования Egg (Яйцо). Он будет небольшим, простым, но достаточно мощным для выражения любых расчётов. Он также будет осуществлять простые абстракции, основанные на функциях.
Разбор (parsing)
То, что лежит на поверхности языка – синтаксис, запись. Грамматический анализатор, или парсер – программа, читающая кусок текста и выдающая структуру данных, описывающую структуры программы, содержавшейся в тексте. Если текст не описывает корректную программу, парсер должен пожаловаться и указать на ошибку.
У нашего языка будет простой и однородный синтаксис. В Egg всё будет являться выражением. Выражение может быть переменной, число, строка или приложение. Приложения используются для вызова функций и конструкций типа if или while.
Для упрощения парсинга строки в Egg не будут поддерживать обратных слешей и подобных вещей. Строка – просто последовательность символов, не являющихся двойными кавычками, заключённая в двойные кавычки. Число – последовательность цифр. Имена переменных могут состоять из любых символов, не являющихся пробелами и не имеющих специального значения в синтаксисе.
Приложения записываются так же, как в JS — при помощи скобок после выражения и с любым количеством аргументов в скобках, разделённых запятыми.
1
do(define(x, 10),
2
   if(>(x, 5),
3
      print("много"),
4
      print("мало")))
Copied!
Однородность языка означает, что то, что в JS является операторами, применяется так же, как и остальные функции. Так как в синтаксисе нет концепции блоков, нам нужна конструкция do для обозначения нескольких вещей, выполняемых последовательно.
Структура данных, описывающая программу, будет состоять из объектов выражений, у каждого из которых будет свойство type, отражающее тип этого выражения и другие свойства, описывающие содержимое.
Выражения типа “value” представляют строки или числа. Их свойство value содержит строку или число, которое они представляют. Выражения типа “word” используются для идентификаторов (имён). У таких объектов есть свойство name, содержащее имя идентификатора в виде строки. И наконец, выражения “apply” представляют приложения. У них есть свойство “operator”, ссылающееся на применяемое выражение, и свойство “args” с массивом аргументов.
Часть >(x, 5) будет представлена так:
1
{
2
  type: "apply",
3
  operator: {type: "word", name: ">"},
4
  args: [
5
    {type: "word", name: "x"},
6
    {type: "value", value: 5}
7
  ]
8
}
Copied!
Такая структура данных называется синтаксическим деревом. Если вы представите объекты в виде точек, а связи между ними в виде линий, то получите древовидную структуру. То, что выражения содержат другие выражения, которые в свою очередь могут содержать свои выражения, сходно с тем, как разветвляются ветки.
Структура синтаксического дерева
Сравните это с парсером, написанным нами для файла настроек в главе 9, у которого была простая структура: он делил ввод на строки и обрабатывал их одну за другой. Там было всего несколько форм, которые разрешено принимать строке.
Здесь нам нужен другой подход. Выражения не разделяются на строчки, и их структура рекурсивна. Выражения-приложения содержат другие выражения. К счастью, эта задача элегантно решается применением рекурсивной функции, отражающей рекурсивность языка.
Мы определяем функцию parseExpression, принимающую строку на вход и возвращающую объект, содержащий структуру данных для выражения с начала строки, вместе с частью строки, оставшейся после парсинга. При разборе подвыражений (таких, как аргумент приложения), эта функция снова вызывается, возвращая выражение аргумента вместе с оставшимся текстом. Тот текст может, в свою очередь, содержать ещё аргументы, или же быть закрывающей скобкой, завершающей список аргументов.
Первая часть парсера:
1
function parseExpression(program) {
2
  program = skipSpace(program);
3
  var match, expr;
4
  if (match = /^"([^"]*)"/.exec(program))
5
    expr = {type: "value", value: match[1]};
6
  else if (match = /^\d+\b/.exec(program))
7
    expr = {type: "value", value: Number(match[0])};
8
  else if (match = /^[^\s(),"]+/.exec(program))
9
    expr = {type: "word", name: match[0]};
10
  else
11
    throw new SyntaxError("Неожиданный синтаксис: " + program);
12
​
13
  return parseApply(expr, program.slice(match[0].length));
14
}
15
​
16
function skipSpace(string) {
17
  var first = string.search(/\S/);
18
  if (first == -1) return "";
19
  return string.slice(first);
20
}
Copied!
Поскольку Egg разрешает любое количество пробелов в элементах, нам надо постоянно вырезать пробелы с начала строки. С этим справляется skipSpace.
Пропустив начальные пробелы, parseExpression использует три регулярки для распознавания трёх простых (атомарных) элементов, поддерживаемых языком: строк, чисел и слов. Парсер создаёт разные структуры для разных типов. Если ввод не подходит ни под одну из форм, это не является допустимым выражением, и он выбрасывает ошибку. SyntaxError – стандартный объект для ошибок, который создаётся при попытке запуска некорректной программы JavaScript.
Мы можем отрезать обработанную часть программы, и передать его, вместе с объектом выражения, в parseApply, определяющая, не является ли выражение приложением. Если так и есть, он парсит список аргументов в скобках.
1
function parseApply(expr, program) {
2
  program = skipSpace(program);
3
  if (program[0] != "(")
4
    return {expr: expr, rest: program};
5
​
6
  program = skipSpace(program.slice(1));
7
  expr = {type: "apply", operator: expr, args: []};
8
  while (program[0] != ")") {
9
    var arg = parseExpression(program);
10
    expr.args.push(arg.expr);
11
    program = skipSpace(arg.rest);
12
    if (program[0] == ",")
13
      program = skipSpace(program.slice(1));
14
    else if (program[0] != ")")
15
      throw new SyntaxError("Ожидается ',' or ')'");
16
  }
17
  return parseApply(expr, program.slice(1));
18
}
Copied!
Если следующий символ программы – не открывающая скобка, то это не приложение, и parseApply просто возвращает данное ей выражение.
В ином случае, она пропускает открывающую скобку и создаёт объект синтаксического дерева для этого выражения. Затем она рекурсивно вызывает parseExpression для разбора каждого аргумента, пока не встретит закрывающую скобку. Рекурсия непрямая, parseApply и parseExpression вызывают друг друга.
Поскольку приложение само по себе может быть выражением (multiplier(2)(1)), parseApply должна, после разбора приложения, вызвать себя снова, проверив, не идёт ли далее другая пара скобок.
Вот и всё, что нам нужно для разбора Egg. Мы обернём это в удобную функцию parse, проверяющую, что она дошла до конца строки после разбора выражения (программа Egg – это одно выражение), и это даст нам структуру данных программы.
1
function parse(program) {
2
  var result = parseExpression(program);
3
  if (skipSpace(result.rest).length > 0)
4
    throw new SyntaxError("Неожиданный текст после программы");
5
  return result.expr;
6
}
7
​
8
console.log(parse("+(a, 10)"));
9
// → {type: "apply",
10
//    operator: {type: "word", name: "+"},
11
//    args: [{type: "word", name: "a"},
12
//           {type: "value", value: 10}]}
Copied!
Работает! Она не выдаёт полезной информации при ошибке, и не хранит номера строки и столбца, с которых начинается каждое выражение, что могло бы пригодиться при разборе ошибок – но для нас и этого хватит.
Интерпретатор
А что нам делать с синтаксическим деревом программы? Запускать её! Этим занимается интерпретатор. Вы даёте ему синтаксическое дерево и объект окружения, который связывает имена со значениями, а он интерпретирует выражение, представляемое деревом, и возвращает результат.
1
function evaluate(expr, env) {
2
  switch(expr.type) {
3
    case "value":
4
      return expr.value;
5
​
6
    case "word":
7
      if (expr.name in env)
8
        return env[expr.name];
9
      else
10
        throw new ReferenceError("Неопределённая переменная: " +
11
                                 expr.name);
12
    case "apply":
13
      if (expr.operator.type == "word" &&
14
          expr.operator.name in specialForms)
15
        return specialForms[expr.operator.name](expr.args,
16
                                                env);
17
      var op = evaluate(expr.operator, env);
18
      if (typeof op != "function")
19
        throw new TypeError("Приложение не является функцией.");
20
      return op.apply(null, expr.args.map(function(arg) {
21
        return evaluate(arg, env);
22
      }));
23
  }
24
}
25
​
26
var specialForms = Object.create(null);
Copied!
У интерпретатора есть код для каждого из типов выражений. Для литералов он возвращает их значение. Например, выражение 100 интерпретируется в число 100. У переменной мы должны проверить, определена ли она в окружении, и если да – запросить её значение.
С приложениями сложнее. Если это особая форма типа if, мы ничего не интерпретируем, а просто передаём аргументы вместе с окружением в функцию, обрабатывающую форму. Если это простой вызов, мы интерпретируем оператор, проверяем, что это функция и вызываем его с результатом интерпретации аргументов.
Для представления значений функций Egg мы будем использовать простые значения функций JavaScript. Мы вернёмся к этому позже, когда определим специальную форму fun.
Рекурсивная структура интерпретатора напоминает парсер. Оба отражают структуру языка. Можно было бы интегрировать парсер в интерпретатор и интерпретировать во время разбора, но их разделение делает программу более читаемой.
Вот и всё, что нужно для интерпретации Egg. Вот так просто. Но без определения нескольких специальных форм и добавления полезных значений в окружение, вы с этим языком ничего не сможете сделать.
Специальные формы
Объект specialForms используется для определения особого синтаксиса Egg. Он сопоставляет слова с функциями, интерпретирующими эти специальные формы. Пока он пуст. Давайте добавим несколько форм.
1
specialForms["if"] = function(args, env) {
2
  if (args.length != 3)
3
    throw new SyntaxError("Неправильное количество аргументов для if");
4
​
5
  if (evaluate(args[0], env) !== false)
6
    return evaluate(args[1], env);
7
  else
8
    return evaluate(args[2], env);
9
};
Copied!
Конструкция if языка Egg ждёт три аргумента. Она вычисляет первый, и если результат не false, вычисляет второй. В ином случае вычисляет третий. Этот if больше похож на тернарный оператор ?:. Это выражение, а не инструкция, и она выдаёт значение, а именно, результат второго или третьего выражения.
Egg отличается от JavaScript тем, как он обрабатывает условие if. Он не будет считать ноль или пустую строку за false.
if представлено в виде особой формы а не обычной функции, потому что аргументы функций вычисляются перед вызовом, а if должен интерпретировать один из двух аргументов – второй или третий, в зависимости от значения первого.
Форма для while схожая.
1
specialForms["while"] = function(args, env) {
2
  if (args.length != 2)
3
    throw new SyntaxError("Неправильное количество аргументов для while");
4
​
5
  while (evaluate(args[0], env) !== false)
6
    evaluate(args[1], env);
7
​
8
  // Поскольку undefined не задано в Egg,
9
  // за отсутствием осмысленного результата возвращаем false
10
  return false;
11
};
Copied!
Ещё одна основная часть языка – do, выполняющий все аргументы сверху вниз. Его значение – это значение, выдаваемое последним аргументом.
1
specialForms["do"] = function(args, env) {
2
  var value = false;
3
  args.forEach(function(arg) {
4
    value = evaluate(arg, env);
5
  });
6
  return value;
7
};
Copied!
Чтобы создавать переменные и давать им значения, мы создаём форму define. Она ожидает word в качестве первого аргумента, и выражение, производящее значение, которое надо присвоить этому слову в качестве второго. define, как и всё, является выражением, поэтому оно должно возвращать значение. Пусть оно возвращает присвоенное значение (прям как оператор = в JavaScript).
1
specialForms["define"] = function(args, env) {
2
  if (args.length != 2 || args[0].type != "word")
3
    throw new SyntaxError("Bad use of define");
4
  var value = evaluate(args[1], env);
5
  env[args[0].name] = value;
6
  return value;
7
};
Copied!
Окружение
Окружение, принимаемое интерпретатором — это объект со свойствами, чьи имена соответствуют именам переменных, а значения – значениям этих переменных. Давайте определим объект окружения, представляющий глобальную область видимости.
Для использования конструкции if мы должны создать булевские значения. Так как их всего два, особый синтаксис для них не нужен. Мы просто делаем две переменные со значениями true и false.
1
var topEnv = Object.create(null);
2
​
3
topEnv["true"] = true;
4
topEnv["false"] = false;
Copied!
Теперь мы можем вычислить простое выражение, меняющее булевское значение на обратное.
1
var prog = parse("if(true, false, true)"); 
2
console.log(evaluate(prog, topEnv)); // → false
Copied!
Для поддержки простых арифметических операторов и сравнения мы добавим несколько функций в окружение. Для упрощения кода мы будем использовать new Function для создания набора функций-операторов в цикле, а не определять их все по отдельности.
1
["+", "-", "*", "/", "==", "<", ">"].forEach(function(op) {
2
  topEnv[op] = new Function("a, b", "return a " + op + " b;");
3
});
Copied!
Также пригодится способ вывода значений, так что мы обернём console.log в функцию и назовём её print.
1
topEnv["print"] = function(value) {
2
  console.log(value);
3
  return value;
4
};
Copied!
Это даёт нам достаточно элементарных инструментов для написания простых программ. Следующая функция run даёт удобный способ записи и запуска. Она создаёт свежее окружение, парсит и разбирает строчки, которые мы ей передаём, так, как будто они являются одной программой.
1
function run() {
2
  var env = Object.create(topEnv);
3
  var program = Array.prototype.slice
4
    .call(arguments, 0).join("\n");
5
  return evaluate(parse(program), env);
6
}
Copied!
Использование Array.prototype.slice.call – уловка для превращения объекта, похожего на массив, такого как аргументы, в настоящий массив, чтобы мы могли применить к нему join. Она принимает все аргументы, переданные в run, и считает, что все они – строчки программы.
1
run("do(define(total, 0),",
2
    "   define(count, 1),",
3
    "   while(<(count, 11),",
4
    "         do(define(total, +(total, count)),",
5
    "            define(count, +(count, 1)))),",
6
    "   print(total))");
7
// → 55
Copied!
Эту программу мы видели уже несколько раз – она подсчитывает сумму чисел от 1 до 10 на языке Egg. Она уродливее эквивалентной программы на JavaScript, но не так уж и плоха для языка, заданного менее чем 150 строчками кода.
Функции
Язык программирования без функций – плохой язык.
К счастью, несложно добавить конструкцию fun, которая расценивает последний аргумент как тело функции, а все предыдущие – имена аргументов функции.
1
specialForms["fun"] = function(args, env) {
2
  if (!args.length)
3
    throw new SyntaxError("Функции нужно тело");
4
  function name(expr) {
5
    if (expr.type != "word")
6
      throw new SyntaxError("Имена аргументов должны быть типа word");
7
    return expr.name;
8
  }
9
  var argNames = args.slice(0, args.length - 1).map(name);
10
  var body = args[args.length - 1];
11
​
12
  return function() {
13
    if (arguments.length != argNames.length)
14
      throw new TypeError("Неверное количество аргументов");
15
    var localEnv = Object.create(env);
16
    for (var i = 0; i < arguments.length; i++)
17
      localEnv[argNames[i]] = arguments[i];
18
    return evaluate(body, localEnv);
19
  };
20
};
Copied!
У функций в Egg своё локальное окружение, как и в JavaScript. Мы используем Object.create для создания нового объекта, имеющего доступ к переменным во внешнем окружении (своего прототипа), но он также может содержать новые переменные, не меняя внешней области видимости.
Функция, созданная формой fun, создаёт своё локальное окружение и добавляет к нему переменные-аргументы. Затем она интерпретирует тело в этом окружении и возвращает результат.
1
run("do(define(plusOne, fun(a, +(a, 1))),",
2
    "   print(plusOne(10)))");
3
// → 11
4
​
5
run("do(define(pow, fun(base, exp,",
6
    "     if(==(exp, 0),",
7
    "        1,",
8
    "        *(base, pow(base, -(exp, 1)))))),",
9
    "   print(pow(2, 10)))");
10
// → 1024
Copied!
Компиляция
Мы с вами построили интерпретатор. Во время интерпретации он работает с представлением программы, созданным парсером.
Компиляция – добавление ещё одного шага между парсером и запуском программы, которая превращает в программу в нечто, что можно выполнять более эффективно, путём проделывания большинства работы заранее. К примеру, в хорошо организованных языках при каждом использовании переменной очевидно, к какой переменной обращаются, даже без запуска программы. Это можно использовать, чтобы не искать переменную по имени каждый раз, когда к ней обращаются, а напрямую вызывать её из какой-то заранее определённой области памяти.
По традиции компиляция также превращает программу в машинный код – сырой формат, пригодный для исполнения процессором. Но каждый процесс превращения программы в другой вид, по сути, является компиляцией.
Можно было бы создать другой интерпретатор Egg, который сначала превращает программу в программу на языке JavaScript, использует new Function для вызова компилятора JavaScript и возвращает результат. При правильной реализации Egg выполнялся бы очень быстро при относительно простой реализации.
Если вам это интересно, и вы хотите потратить на это время, я поощряю вас попробовать сделать такой компилятор в качестве упражнения.
Мошенничество
Когда мы определяли if и while, вы могли заметить, что они представляли собой простые обёртки вокруг if и while в JavaScript. Значения в Egg – также обычные значения JavaScript.
Сравнивая реализацию Egg, построенную на JavaScript, с объёмом работы, необходимой для создания языка программирования непосредственно на машинном языке, то разница становится огромной. Тем не менее, этот пример, надеюсь, даёт вам представление о работе языков программирования.
И когда вам надо что-то сделать, смошенничать будет более эффективно, нежели делать всё с нуля самому. И хотя игрушечный язык ничем не лучше JavaScript, в некоторых ситуациях написание своего языка помогает быстрее сделать работу.
Такой язык не обязан напоминать обычный ЯП. Если бы JavaScript не содержал регулярных выражений, вы могли бы написать свои парсер и интерпретатор для такого суб-языка.
Или представьте, что вы строите гигантского робота-динозавра и вам нужно запрограммировать его поведение. JavaScript – не самый эффективный способ сделать это. Можно вместо этого выбрать язык примерно такого свойства:
1
behavior walk
2
  perform when
3
    destination ahead
4
  actions
5
    move left-foot
6
    move right-foot
7
​
8
behavior attack
9
  perform when
10
    Godzilla in-view
11
  actions
12
    fire laser-eyes
13
    launch arm-rockets
Copied!
Обычно это называют языком для выбранной области (domain-specific language) – язык, специально предназначенный для работы в узком направлении. Такой язык может быть более выразительным, чем язык общего назначения, потому что он разработан для выражения именно тех вещей, которые надо выразить в этой области – и больше ничего.
Упражнения
Массивы
Добавьте поддержку массивов в Egg. Для этого добавьте три функции в основную область видимости: array(...) для создания массива, содержащего значения аргументов, length(array) для возврата длины массива и element(array, n) для возврата n-ного элемента.
1
// Добавьте кода
2
topEnv["array"] = "...";
3
topEnv["length"] = "...";
4
topEnv["element"] = "...";
5
​
6
run("do(define(sum, fun(array,",
7
    "     do(define(i, 0),",
8
    "        define(sum, 0),",
9
    "        while(<(i, length(array)),",
10
    "          do(define(sum, +(sum, element(array, i))),",
11
    "             define(i, +(i, 1)))),",
12
    "        sum))),",
13
    "   print(sum(array(1, 2, 3))))");
14
// → 6
Copied!
Замыкания
Способ определения fun позволяет функциям в Egg замыкаться вокруг окружения, и использовать локальные переменные в теле функции, которые видны во время определения, точно как в функциях JavaScript.
Следующая программа иллюстрирует это: функция f возвращает функцию, добавляющую её аргумент к аргументу f, то есть, ей нужен доступ к локальной области видимости внутри f для использования переменной a.
1
run("do(define(f, fun(a, fun(b, +(a, b)))),",
2
    "   print(f(4)(5)))");
3
// → 9
Copied!
Объясните, используя определение формы fun, какой механизм позволяет этой конструкции работать.
Комментарии
Хорошо было бы иметь комментарии в Egg. К примеру, мы могли бы игнорировать оставшуюся часть строки, встречая символ “#” – так, как это происходит с “//” в JS.
Большие изменения в парсере делать не придётся. Мы просто поменяем skipSpace, чтобы она пропускала комментарии, будто они являются пробелами – и во всех местах, где вызывается skipSpace, комментарии тоже будут пропущены. Внесите это изменение.
1
// Поменяйте старую функцию
2
function skipSpace(string) {
3
  var first = string.search(/\S/);
4
  if (first == -1) return "";
5
  return string.slice(first);
6
}
7
​
8
console.log(parse("# hello\nx"));
9
// → {type: "word", name: "x"}
10
​
11
console.log(parse("a # one\n   # two\n()"));
12
// → {type: "apply",
13
//    operator: {type: "word", name: "a"},
14
//    args: []}
Copied!
Чиним область видимости
Сейчас мы можем присвоить переменной значение только через define. Эта конструкция работает как при присвоении старым переменным, так и при создании новых.
Эта неоднозначность приводит к проблемам. Если вы пытаетесь присвоить новое значение нелокальной переменной, вместо этого вы определяете локальную с таким же именем. (Некоторые языки так и делают, но мне это всегда казалось дурацким способом работы с областью видимости).
Добавьте форму set, схожую с define, которая присваивает переменной новое значение, обновляя переменную во внешней области видимости, если она не задана в локальной. Если переменная вообще не задана, швыряйте ReferenceError (ещё один стандартный тип ошибки).
Техника представления областей видимости в виде простых объектов, до сего момента бывшая удобной, теперь будет вам мешать. Вам может понадобиться функция Object.getPrototypeOf, возвращающая прототип объекта. Также помните, что область видимости не наследуется от Object.prototype, поэтому если вам надо вызвать на них hasOwnProperty, придётся использовать такую неуклюжую конструкцию:
1
Object.prototype.hasOwnProperty.call(scope, name);
Copied!
Это вызывает метод hasOwnProperty прототипа Object и затем вызывает его на объекте scope.
1
specialForms["set"] = function(args, env) {
2
  // Ваш код
3
};
4
​
5
run("do(define(x, 4),",
6
    "   define(setx, fun(val, set(x, val))),",
7
    "   setx(50),",
8
    "   print(x))");
9
// → 50
10
run("set(quux, true)");
11
// → Ошибка вида ReferenceError
Copied!
Модули
JavaScript и браузер
Last modified 2yr ago
Copy link
Contents
Разбор (parsing)
Структура синтаксического дерева
Чиним область видимости