我逆向了GitHub Copilot，这是代码实现

孟健2023年11月02日约 28 分钟

👉导读

众所周知，Github Copilot 是一种基于机器学习的代码自动补全工具。它使用了来自 GitHub 的大量代码作为训练数据，并使用 OpenAI 的语言模型来生成代码。Copilot 还可以学习用户的编码习惯，并根据上下文推断出正确的代码片段。在实际使用中发现大部份提示还是非常好用的，能够较为准确的推测出用户意图，甚至是基于项目其他文件的上下文进行推理。比较好奇这里是怎么做到的，于是探索了这个 VSCode 插件的详细实现。

👉目录

1 准备工作

2 入口分析

3 代码提示入口逻辑

4 getGhostText 核心逻辑

5 Extract 核心逻辑

6 getPrompt 核心逻辑

7 抓包实验一下

8 小结

01

准备工作

由于 Copilot 并没有开源，因此我们需要做一些逆向的准备。首先，找到 VSCode 插件的安装目录，拿到 extension.js：

在 mac 下插件目录在 ~/.vscode 下，我们可以拿到一个经过压缩混淆的文件：

1.1 分割 webpack_modules

针对整个 webpack 压缩混淆的 js，我们首先要将不同的 bundle 识别出来，分割成单个文件，以便于后续的分析。

由于压缩后的代码存在很多不确定性，一开始打算尝试通过正则提取，但无论如何都有各种边界情况导致提取不正确，最简单的方法还是通过 AST 来提取。

首先，通过 babel-parser 将源码解析为 AST：

const ast = parser.parse(source);

然后，通过 babel-traverse 遍历整个 AST，找到 modules 的变量，取出里面的值：

function parseModules() {  traverse(ast, {    enter(path) {      if (        path.node.type === "VariableDeclarator" &&        path.node.id.name === "__webpack_modules__"      ) {        const modules = path.node.init.properties;        for (const module of modules) {          const moduleId = module.key.value;          const moduleAst = module.value;          const moduleSource = generate(moduleAst).code;
          try {            const ast = transformRequire(prettier(clearfyParams(moduleId, moduleSource)));
            const mainBody = ast.program.body[0].expression.body.body;            const moduleCode = generate(types.Program(mainBody)).code;            fs.writeFileSync(              "./prettier/modules/" + moduleId + ".js",              moduleCode,              "utf8"            );          } catch (e) {            console.log(e);          }        }      }    },  });}

最后，将处理过后的 ast 通过 babel-generator 和 babel-types 重新生成新的 ast 写入文件。

这样，我们就得到了以模块 id 命名的独立 bundle，在我的这一版中，解析出来的 Copilot 的 bundle 已经非常多了，达到752个。

1.2 识别模块依赖

我们解析出来的 bundle，第一层函数大概是这样：

对于 webpack 来说，这几个参数是固定的，分别是 module、exports、require，所以我们优先把这几个参数识别出来，进行作用域的替换，这样才可以看出模块间的依赖关系：

function clearfyParams(moduleId, moduleSource) {  if (moduleSource.trim().startsWith("function")) {    // change `function(e, t, n) {` to `(e, t, n) => {`    moduleSource = moduleSource.replace("function", "");    moduleSource = moduleSource.replace(")", ") =>");  }
  const moduleAst = parser.parse(moduleSource);  let flag = false;
  traverse(moduleAst, {    ArrowFunctionExpression(path) {      if (flag) return;      const params = path.node.params;      params.forEach((param) => {        if (param.name === "e" || param.name === "t" || param.name === "n") {          path.scope.rename(            param.name,            {              e: "module",              t: "exports",              n: "require",            }[param.name]          );        }      });      flag = true;    },  });  return moduleAst;}

这样，我们就得到了类似这样的有 require 和 exports 的代码：

var r = require(12781).Stream;var i = require(73837);function o() {  this.source = null;  this.dataSize = 0;  this.maxDataSize = 1048576;  this.pauseStream = !0;  this._maxDataSizeExceeded = !1;  this._released = !1;  this._bufferedEvents = [];}module.exports = o;

1.3 优化压缩后的语法

JS 代码经过压缩后，会产生大量的逗号运算符、短路写法、三元表达式、括号闭包等等，非常阻碍阅读，这里参考了 https://github.com/thakkarparth007/copilot-explorer 这个项目所做的一些逆向工作，对语法进行了一系列处理：

function prettier(ast) {  const moduleTransformer = {    // e.g., `(0, r.getConfig)(e, r.ConfigKey.DebugOverrideProxyUrl);`    // gets transformed to r.getConfig(e, r.ConfigKey.DebugOverrideProxyUrl);    CallExpression(path) {      if (path.node.callee.type != "SequenceExpression") {        return;      }      if (        path.node.callee.expressions.length == 2 &&        path.node.callee.expressions[0].type == "NumericLiteral"      ) {        path.node.callee = path.node.callee.expressions[1];      }    },    ExpressionStatement(path) {      if (path.node.expression.type == "SequenceExpression") {        const exprs = path.node.expression.expressions;        let exprStmts = exprs.map((e) => {          return types.expressionStatement(e);        });        path.replaceWithMultiple(exprStmts);        return;      }      if (path.node.expression.type == "AssignmentExpression") {        // handle cases like: `a = (expr1, expr2, expr3)`        // convert to: `expr1; expr2; a = expr3;`        if (path.node.expression.right.type == "SequenceExpression") {          const exprs = path.node.expression.right.expressions;          let exprStmts = exprs.map((e) => {            return types.expressionStatement(e);          });          let lastExpr = exprStmts.pop();          path.node.expression.right = lastExpr.expression;          exprStmts.push(path.node);          path.replaceWithMultiple(exprStmts);          return;        }
        // handle cases like: `exports.GoodExplainableName = a;` where `a` is a function or a class        // rename `a` to `GoodExplainableName` everywhere in the module        if (          path.node.expression.left.type == "MemberExpression" &&          path.node.expression.left.object.type == "Identifier" &&          path.node.expression.left.object.name == "exports" &&          path.node.expression.left.property.type == "Identifier" &&          path.node.expression.left.property.name != "default" &&          path.node.expression.right.type == "Identifier" &&          path.node.expression.right.name.length == 1        ) {          path.scope.rename(            path.node.expression.right.name,            path.node.expression.left.property.name          );          return;        }      }      if (path.node.expression.type == "ConditionalExpression") {        // handle cases like: `<test> ? c : d;`        // convert to: `if (<test>) { c; } else { d; }`        const test = path.node.expression.test;        const consequent = path.node.expression.consequent;        const alternate = path.node.expression.alternate;
        const ifStmt = types.ifStatement(          test,          types.blockStatement([types.expressionStatement(consequent)]),          types.blockStatement([types.expressionStatement(alternate)])        );        path.replaceWith(ifStmt);        return;      }      if (path.node.expression.type == "LogicalExpression") {        // handle cases like: `a && b;`        // convert to: `if (a) { b; }`        const test = path.node.expression.left;        const consequent = path.node.expression.right;
        const ifStmt = types.ifStatement(          test,          types.blockStatement([types.expressionStatement(consequent)]),          null        );        path.replaceWith(ifStmt);        return;      }    },    IfStatement(path) {      if (!path.node.test || path.node.test.type != "SequenceExpression") {        return;      }      const exprs = path.node.test.expressions;      let exprStmts = exprs.map((e) => {        return types.expressionStatement(e);      });      let lastExpr = exprStmts.pop();      path.node.test = lastExpr.expression;      exprStmts.push(path.node);      path.replaceWithMultiple(exprStmts);    },    ReturnStatement(path) {      if (        !path.node.argument ||        path.node.argument.type != "SequenceExpression"      ) {        return;      }      const exprs = path.node.argument.expressions;      let exprStmts = exprs.map((e) => {        return types.expressionStatement(e);      });      let lastExpr = exprStmts.pop();      let returnStmt = types.returnStatement(lastExpr.expression);      exprStmts.push(returnStmt);      path.replaceWithMultiple(exprStmts);    },    VariableDeclaration(path) {      // change `const a = 1, b = 2;` to `const a = 1; const b = 2;`      if (path.node.declarations.length > 1) {        let newDecls = path.node.declarations.map((d) => {          return types.variableDeclaration(path.node.kind, [d]);        });        path.replaceWithMultiple(newDecls);      }    },  };  traverse(ast, moduleTransformer);  return ast;}

1.4 require 的模块 id 取名

由于压缩之后的代码，require 依赖只有 moduleid，已经失去了原来的文件名称，所以这里我们需要手动映射（当然也可以借助 GPT）推断一下不同文件的名称，维护一个 map 文件，然后在 ast 里将模块 id 替换为有语义的模块名：

function transformRequire(ast) {  const moduleTransformer = {    VariableDeclaration(path) {        if (path.node.declarations[0].init && path.node.declarations[0].init.type === "CallExpression") {            if (path.node.declarations[0].init.callee.name === "require") {                const moduleId = path.node.declarations[0].init.arguments[0].value;                if (NameMap[moduleId]) {                    const { name, path: modulePath} = NameMap[moduleId];
                    path.node.declarations[0].init.arguments[0].value = '"'+modulePath+'"';                    path.scope.rename(path.node.declarations[0].id.name, name);                }              }        }
    },  };  traverse(ast, moduleTransformer);  return ast;}

至此，我们逆向相关的准备工作就完成了。

02

入口分析

虽然前面我们已经为逆向做了大量的工作，但实际上，逆向 JS 代码还是一个体力活，在有限的精力下，我们也只能手动将一些上下文压缩变量进行推断替换，尽可能还原一些核心文件的代码。

入口可以很轻易找到它的模块 id 是91238：

经过一系列的手动优化操作，我们可以大致还原这个入口文件的原始样貌：

在 VSCode 的 active 函数中，Copilot 做了大量初始化相关的工作，以及将各个模块的示例注册到 context 中，后续取实例就从 context 上下文来取。

我们的核心还是想探索 Copilot 的代码补全能力，入口文件的细节在这里就不展开了。

03

代码提示入口逻辑

代码提示逻辑是在 registerGhostText 中注册的：

在 VSCode 中，主要通过 InlineCompletionItemProvider 来实现编辑器中的代码补全能力。

整个实现的入口逻辑经过还原后大致如下：

整体还是比较清晰的，它大致做了以下几件事情：

如果用户关闭了 InlineSuggestEnable、或者 document 不在处理白名单内，或者用户取消了输入，都会提前 return，不进行代码提示。

调用 getGhostText 方法拿到 texts，这个大概就是最终会返回给用户的代码提示文本。

调用 completionsFromGhostTextResults，拿到最终的 completions。这个函数比较简单，主要对文本进行了一些格式化的处理，比如处理 Tab 空格的问题，以及根据光标当前的位置计算出代码提示应当显示在编辑器中的坐标范围。

04

getGhostText 核心逻辑

getGhostText 是获取提示代码的核心方法，整体代码较多，我们将其拆分一下：

4.1 提取 Prompt

const prompt = await extractprompt.extractPrompt(ctx, document, position);

提取 prompt 是一个比较复杂的操作，接下来我们单独拆一小节详细分析。

4.2 边界判断

if ("copilotNotAvailable" === prompt.type) {    exports.ghostTextLogger.debug(      ctx,      "Copilot not available, due to the .copilotignore settings"    );    return {      type: "abortedBeforeIssued",      reason: "Copilot not available due to the .copilotignore settings",    };  }  if ("contextTooShort" === prompt.type) {    exports.ghostTextLogger.debug(ctx, "Breaking, not enough context");    return {      type: "abortedBeforeIssued",      reason: "Not enough context",    };  }  if (token?.isCancellationRequested) {    exports.ghostTextLogger.info(ctx, "Cancelled after extractPrompt");    return {      type: "abortedBeforeIssued",      reason: "Cancelled after extractPrompt",    };  }

这里的边界范围主要是三种情况：

包含在 .copilotignore 里的文件；

上下文太少了；

用户已经取消了。

4.3 二级判断

在 Copilot 内部做了两层缓存处理，第一层缓存是保存了上一次的 prefix 和 suffix：

function updateGlobalCacheKey(prefix, suffix, promptKey) {  prefixCache = prefix;  suffixCache = suffix;  promptKeyCache = promptKey;}

这里的 promptKey 是根据 prefix 和 suffix 的内容计算得到。在 Copilot 向后台发起请求前，如果判断这次请求的 prefix 和 suffix 还是和之前的一样，则会读取缓存的内容：

紧接着，如果上一层的缓存没有命中，Copilot 还会计算二级缓存，会计算当前的 prompt 在不在缓存范围内：

在这里，Copilot 采取的缓存是 LRU 缓存策略，prompt 默认会缓存100条：

exports.completionCache = new s.LRUCacheMap(100);

而 keyForPrompt 函数就是一个对 prefix 和 suffix 的 hash：

exports.keyForPrompt = function (e) {  return r.SHA256(e.prefix + e.suffix).toString();};

4.4 真正发起请求

到了真正到向后台发送 prompt 请求的时候，Copilot 还是做了两件比较细致的事情：

设置 Debounce 时延；

判断 contexualFilterScore 是否达到阈值。

首先，为了避免频繁向后台发送请求，Copilot 做了 debounce，要知道模型计算是十分消耗算力的，因此在这个场景下，必须要做 debounce。Copilot 的这个 debounce 也不是一般的，让我们看看它的实现细节：

exports.getDebounceLimit = async function (e, t) {  let n;  if ((await e.get(r.Features).debouncePredict()) && t.measurements.contextualFilterScore) {    const e = t.measurements.contextualFilterScore;    const r = .3475;    const i = 7;    n = 25 + 250 / (1 + Math.pow(e / r, i));  } else n = await e.get(r.Features).debounceMs();  return n > 0 ? n : 75;};

Copilot 有一个预测开关，如果这个预测开关打开，会根据当前的内容相关性评分预测当前的 debounce 时延，这个处理就比较高级了。当然在开关没打开的情况下默认值为75ms。

其次就是 contexualFilterScore 了，这个值代表的是上下文的评分，Copilot 会记录之前几次上下文有没有采纳的结果，貌似是通过一个简单的线性回归来预测当前的上下文被采纳的可能性，如果小于一定的阈值，则不会再给用户进行提示，优化用户体验。

当前版本的阈值应该是35%。这个 contextualFilterEnable 开关默认是打开的。

最后，就是向后台真正发起请求了：

4.5 流程总结

画个图总结一下 Copilot 向后台发起请求之前做的事情：

05

Extract 核心逻辑

Extract 首层逻辑其实并不复杂，最终返回了 prompt 对象：

上图中用红框标出的字段来源于配置，其他的字段来自于 getPrompt 方法的返回，getPrompt 是获取 prompt 的核心逻辑，这块我们接下来单独展开讨论，先来看看配置的问题。

在 Copilot （VSCode）体系中，有很多配置是对接了微软的 AB 实验平台的，可以在文件中找到这样的模块：

async fetchExperiments(e, t) {      const n = e.get(r.Fetcher);      let o;      try {        o = await n.fetch("https://default.exp-tas.com/vscode/ab", {          method: "GET",          headers: t        });      } catch (t) {        return i.ExpConfig.createFallbackConfig(e, `Error fetching ExP config: ${t}`);      }      if (!o.ok) return i.ExpConfig.createFallbackConfig(e, `ExP responded with ${o.status}`);      const s = await o.json(),        a = s.Configs.find(e => "vscode" === e.Id) ?? {          Id: "vscode",          Parameters: {}        },        c = Object.entries(a.Parameters).map(([e, t]) => e + (t ? "" : "cf"));      return new i.ExpConfig(a.Parameters, s.AssignmentContext, c.join(";"));    }

这个就是拉取了 ab 实验的平台，很多特性开关都是通过配置下发，Copilot 的相关配置也不例外。

这些配置在平台没有指定的时候，都是以它的默认值。

经过我实际抓包，发现我的 Copilot 插件配置好像没有经过配置平台单独指定，因此整个字段应该取的默认值：

suffixPercent，默认值为15；
fimSuffixLengthThreshold，默认值为0；
maxPromptCompletionTokens，默认值为2048；
neighboringTabsOption，默认值为 eager；
neighboringSnippetTypes，默认值为 NeighboringSnippets；
numberOfSnippets，默认值为4；
snippetPercent，默认值为0；
suffixStartMode，默认值为 CursorTrimStart；
tokenizerName，默认值为 cushman002；
indentationMinLength，默认值为 undefined；
indentationMaxLength，默认值为 undefined；

cursorContextFix，默认值为 false；

这些会作为 Prompt 的基础配置字段传给 getPrompt 方法。

06

getPrompt 核心逻辑

6.1 一些额外的配置字段

在 getPrompt 逻辑里，首先扩充了一系列配置字段：

languageMarker，默认值为 Top；
pathMarker，默认值为 Top；
localImportContext，默认值为 Declarations；
snippetPosition，默认值为 TopOfText；
lineEnding，默认值为 ConvertToUnix；
suffixMatchThreshold，默认值为0；
suffixMatchCriteria，默认值为 Levenshtein；
cursorSnippetsPickingStrategy，默认值为 CursorJaccard。

6.2 prompt 的组成

在 Copilot 中，prompt 是由多种类型组合而成，可以在 PromptElementKind 中找到：

BeforeCursor，是光标前的内容；
AfterCursor，是光标后的内容；
SimilarFile，与当前文件相似度较高的内容；
ImportedFile：import 依赖；

LanguageMarkder，文件开头的标记语法；

PathMarker，文件的路径信息。

6.3 PromptElement 的优先级

Copilot 实现了一个优先级的辅助类，用来设置不同类型的 Element 优先级：

class Priorities {  constructor() {    this.registeredPriorities = [0, 1];  }  register(e) {    if (e > Priorities.TOP || e < Priorities.BOTTOM) throw new Error("Priority must be between 0 and 1");    this.registeredPriorities.push(e);    return e;  }  justAbove(...e) {    const t = Math.max(...e);    const n = Math.min(...this.registeredPriorities.filter(e => e > t));    return this.register((n + t) / 2);  }  justBelow(...e) {    const t = Math.min(...e);    const n = Math.max(...this.registeredPriorities.filter(e => e < t));    return this.register((n + t) / 2);  }  between(e, t) {    if (this.registeredPriorities.some(n => n > e && n < t) || !this.registeredPriorities.includes(e) || !this.registeredPriorities.includes(t)) throw new Error("Priorities must be adjacent in the list of priorities");    return this.register((e + t) / 2);  }}

可以看到 justAbove 和 justBelow，就是生成一个比传入优先级略高或略低的优先级，保证这个优先级在目前的情况下只比传入的优先级高或低一点。

在 Copilot 中，不同类型的优先级是这样产生的：

const beforeCursorPriority = priorities.justBelow(p.Priorities.TOP);  const languageMarkerPriority =    promptOpts.languageMarker === h.Always      ? priorities.justBelow(p.Priorities.TOP)      : priorities.justBelow(beforeCursorPriority);  const pathMarkerPriority =    promptOpts.pathMarker === f.Always ? priorities.justBelow(p.Priorities.TOP) : priorities.justBelow(beforeCursorPriority);  const importedFilePriority = priorities.justBelow(beforeCursorPriority);  const lowSnippetPriority = priorities.justBelow(importedFilePriority);  const highSnippetPriority = priorities.justAbove(beforeCursorPriority);

这里可以简单推断一下：

beforeCursorPriority，为0.5；

languageMarkerPriority，为0.25；

pathMarkderPriority，为0.375；

importedFilePriority，为0.4375；

lowSnippetPriority，为0.40625；

highSnippetPriority，为0.75。

所以在默认的场景下，这几种类型的优先级排序为：highSnippetPriority > beforeCursorPriority > importedFilePriority > lowSnippetPriority > pathMarkderPriority > languageMarkerPriority。

6.4 PromptElement 主要内容

6.4.1 languageMarker 和 pathMarker

languageMarker 和 pathMarker 是最先被放进 promptWishList 中的，经过前面的分析，我们知道在配置中，languageMarker 和 pathMarker 都是有默认值的，因此下面的判断分支一定会走到：

if (promptOpts.languageMarker !== h.NoMarker) {    const e = newLineEnded(r.getLanguageMarker(resourceInfo));    languageMarkerId = promptWishlist.append(e, p.PromptElementKind.LanguageMarker, languageMarkerPriority);  }  if (promptOpts.pathMarker !== f.NoMarker) {    const e = newLineEnded(r.getPathMarker(resourceInfo));    if (e.length > 0) {      pathMarkerId = promptWishlist.append(e, p.PromptElementKind.PathMarker, pathMarkerPriority);    }  }

这两个函数实现也比较简单，我们先来看一下 getLanguageMarker：

exports.getLanguageMarker = function (e) {  const {    languageId: t  } = e;  return -1 !== n.indexOf(t) || hasLanguageMarker(e) ? "" : t in r ? r[t] : comment(`Language: ${t}`, t);};

这里首先确认了 languageId，不在 ignoreList 当中，在 Copilot 中，有两种语言是被排除在外的：

const n = ["php", "plaintext"];

其次再看一下语言本身是否有标记语法，在这个 Map 中（HTML、Python、Ruby、Shell、YAML）：

const r = {  html: "<!DOCTYPE html>",  python: "#!/usr/bin/env python3",  ruby: "#!/usr/bin/env ruby",  shellscript: "#!/bin/sh",  yaml: "# YAML data"};

其余的情况就返回一行注释，类似这样：

// Language: ${languageId}

getPathMarker 逻辑更简单些，只是一行注释，标明文件路径（暂时搞不清楚这个信息给模型有什么用，可能路径里面包含了目录结构信息和文件名帮助模型更好进行推断？）：

exports.getPathMarker = function (e) {  return e.relativePath ? comment(`Path: ${e.relativePath}`, e.languageId) : "";};

6.4.2 localImportContext

localImportContext 的实现要复杂一点，通过上面的配置我们可以看到这个也是默认有值的，会进到下面这个分支当中：

if (promptOpts.localImportContext !== y.NoContext)      for (const e of await i.extractLocalImportContext(resourceInfo, promptOpts.fs))      promptWishlist.append(newLineEnded(e), p.PromptElementKind.ImportedFile, importedFilePriority);

extractLocalImportContext 是一个异步函数，让我们看一下这里面的实现：

const reg = /^\s*import\s*(type|)\s*\{[^}]*\}\s*from\s*['"]\./gm;  exports.extractLocalImportContext = async function (resourceInfo, fs) {    let {      source: source,      uri: uri,      languageId: languageId    } = resourceInfo;    return fs && "typescript" === languageId ? async function (source, uri, fs) {      let language = "typescript";      let result = [];      const importEndIndex = function (source) {        let match;        let lastIndex = -1;        reg.lastIndex = -1;        do {            match = reg.exec(source);          if (match) {            lastIndex = reg.lastIndex + match.length;          }        } while (match);        if (-1 === lastIndex) return -1;        const nextNewLine = source.indexOf("\n", lastIndex);        return -1 !== nextNewLine ? nextNewLine : source.length;      }(source);      if (-1 === importEndIndex) return result;      source = source.substring(0, importEndIndex);      let ast = await i.parseTreeSitter(language, source);      try {        for (let node of function (node) {          let t = [];          for (let childNode of node.namedChildren) if ("import_statement" === childNode.type) {            t.push(childNode);          }          return t;        }(ast.rootNode)) {          let filePath = getTSFilePath(uri, node);          if (!filePath) continue;          let namedImports = parseNamedImport(node);          if (0 === namedImports.length) continue;          let exports = await getExports(filePath, language, fs);          for (let e of namedImports) if (exports.has(e.name)) {            result.push(...exports.get(e.name));          }        }      } finally {        ast.delete();      }      return result;    }(source, uri, fs) : [];  }

首先我们可以关注到的是，这个函数先判断了 TypeScript 的语言，也就意味着当前版本的 Copilot，只对 ts 文件的 import 依赖做了处理。

这个函数之所以是异步的，就是这里要拿到 import 语句的语法树，这个过程比较复杂，Copilot 是使用了 wasm 的方式，通过 tree-sitter 来解析语法树的，这个过程是异步的。

最后，Copilot 提取出所有的 import，并且返回了所有 named import 对应的 export 代码，也就是最终索引到了依赖文件，将用到的 export 都作为上下文 extract 出来。

6.4.3 snippets

snippets 的处理是比较复杂的，在 Copilot 中，首先拿到了一个 snippets：

const snippets = [    ...retrievalSnippets,    ...(promptOpts.neighboringTabs === a.NeighboringTabsOption.None || 0 === neighborDocs.length      ? []      : await a.getNeighborSnippets(          resourceInfo,          neighborDocs,          promptOpts.neighboringSnippetTypes,          promptOpts.neighboringTabs,          promptOpts.cursorContextFix,          promptOpts.indentationMinLength,          promptOpts.indentationMaxLength,          promptOpts.snippetSelection,          promptOpts.snippetSelectionK,          lineCursorHistory,          promptOpts.cursorSnippetsPickingStrategy        )),  ];

在默认的场景下，retrievalSnippets 是空的，而 neighboringTabs 在我们前面的分析中是 eager，所以会通过 getNeighborSnippets 去拿到这个数组。

注意这里传入了 neighborDocs，这个是在 extract 的入口就传过来的，对应的代码是：

let neighborDocs = [];      let neighborSource = new Map();      try {        const t = await u.NeighborSource.getNeighborFiles(ctx, uri, repoUserData);        neighborDocs = t.docs;        neighborSource = t.neighborSource;      } catch (t) {        telemetry.telemetryException(ctx, t, "prompt.getPromptForSource.exception");      }

在默认的情况下，这里拿到的 fileType 是 OpenTabs，所以会默认通过 VSCode 拿到目前打开的 tab 中，包含同类型语言文件的所有内容(按访问时间排序)，对应的代码如下：

exports.OpenTabFiles = class {  constructor(e, t) {    this.docManager = e;    this.neighboringLanguageType = t;  }  async truncateDocs(e, t, n, r) {    const o = [];    let s = 0;    for (const a of e) if (!(s + a.getText().length > i.NeighborSource.MAX_NEIGHBOR_AGGREGATE_LENGTH) && ("file" == a.uri.scheme && a.fileName !== t && i.considerNeighborFile(n, a.languageId, this.neighboringLanguageType) && (o.push({      uri: a.uri.toString(),      relativePath: await this.docManager.getRelativePath(a),      languageId: a.languageId,      source: a.getText()    }), s += a.getText().length), o.length >= r)) break;    return o;  }  async getNeighborFiles(e, t, n, o) {    let s = [];    const a = new Map();    s = await this.truncateDocs(utils2.sortByAccessTimes(this.docManager.textDocuments), e.fsPath, n, o);    a.set(i.NeighboringFileType.OpenTabs, s.map(e => e.uri));    return {      docs: s,      neighborSource: a    };  }};

接着我们来看一下 getNeighborSnippets 的实现：

exports.getNeighborSnippets = async function (  resourceInfo,  neighborDocs,  neighboringSnippetTypes,  neighboringTabs,  cursorContextFix,  indentationMinLength,  indentationMaxLength,  snippetSelection,  snippetSelectionK,  lineCursorHistory,  cursorSnippetsPickingStrategy) {  const options = {    ...exports.neighborOptionToSelection[neighboringTabs],  };  const y = (function (    resourceInfo,    neighboringSnippetTypes,    options,    cursorContextFix,    indentationMinLength,    indentationMaxLength,    lineCursorHistory,    cursorSnippetsPickingStrategy = i.CursorSnippetsPickingStrategy      .CursorJaccard) {    let d;    if (neighboringSnippetTypes === s.NeighboringSnippets) {      d =        void 0 !== indentationMinLength && void 0 !== indentationMaxLength          ? o.IndentationBasedJaccardMatcher.FACTORY(              indentationMinLength,              indentationMaxLength,              cursorContextFix            )          : o.FixedWindowSizeJaccardMatcher.FACTORY(              options.snippetLength,              cursorContextFix            );    } else {      if (neighboringSnippetTypes === s.NeighboringFunctions) {        d = o.FunctionJaccardMatcher.FACTORY(          options.snippetLength,          cursorContextFix,          indentationMinLength,          indentationMaxLength        );      } else {        r.ok(          void 0 !== lineCursorHistory,          "lineCursorHistory should not be undefined"        );        d = i.CursorHistoryMatcher.FACTORY(          options.snippetLength,          lineCursorHistory,          cursorSnippetsPickingStrategy,          cursorContextFix        );      }    }    return d.to(resourceInfo);  })(    resourceInfo,    neighboringSnippetTypes,    options,    cursorContextFix,    indentationMinLength,    indentationMaxLength,    lineCursorHistory,    cursorSnippetsPickingStrategy  );  return 0 === options.numberOfSnippets    ? []    : (        await neighborDocs          .filter((e) => e.source.length < 1e4 && e.source.length > 0)          .slice(0, 20)          .reduce(            async (e, t) =>              (                await e              ).concat(                (                  await y.findMatches(t, snippetSelection, snippetSelectionK)                ).map((e) => ({                  relativePath: t.relativePath,                  ...e,                }))              ),            Promise.resolve([])          )      )        .filter((e) => e.score && e.snippet && e.score > options.threshold)        .sort((e, t) => e.score - t.score)        .slice(-options.numberOfSnippets);};

在这个实现中，我们可以得到以下关键信息：

neighboringSnippetTypes 默认为 NeighboringSnippets，所以会走到 FixedWindowSizeJaccardMatcher 的逻辑里；

返回值是根据 neighborDocs 的内容，过滤掉过小和过大文件，经过 findMatchers 拿到的结果；

最后过滤掉 score 较低的，不过 threshold 默认为0，所以这里应该保留了所有的内容；

根据 score 进行排序，选取较大的4条（numberOfSnippets 默认为4）。

紧接着我们就来看看 FixedWindowSizeJaccardMatcher 的逻辑：

class FixedWindowSizeJaccardMatcher extends i.WindowedMatcher {    constructor(resourceInfo, snippetLength, cursorContextFix) {      super(resourceInfo, cursorContextFix);      this.windowLength = snippetLength;      this.cursorContextFix = cursorContextFix;    }    id() {      return "fixed:" + this.windowLength;    }    getWindowsDelineations(e) {      return o.getBasicWindowDelineations(this.windowLength, e);    }    trimDocument(e) {      return e.source.slice(0, e.offset).split("\n").slice(-this.windowLength).join("\n");    }    _getCursorContextInfo(e) {      return r.getCursorContext(e, {        maxLineCount: this.windowLength,        cursorContextFix: this.cursorContextFix      });    }    similarityScore(e, t) {      return computeScore(e, t);    }  }

这里的 snippetLength 在 eager 的情况下默认为60，也就意味着 snippet 最多不超过60行。

这个类继承了 WindowedMatcher，findMatches 就在 WindowedMatcher 里：

async findMatches(e, t = i.SnippetSelectionOption.BestMatch, n) {      if (t == i.SnippetSelectionOption.BestMatch) {        const t = await this.findBestMatch(e);        return t ? [t] : [];      }      return t == i.SnippetSelectionOption.TopK && (await this.findTopKMatches(e, n)) || [];    }

在这里第二个参数其实默认是 undefined，所以默认走到 BestMatch 的分支：

async findBestMatch(e) {      if (0 === e.source.length || 0 === this.referenceTokens.size) return;      const t = e.source.split("\n");      const n = this.retrieveAllSnippets(e, s.Descending);      return 0 !== n.length && 0 !== n[0].score ? {        snippet: t.slice(n[0].startLine, n[0].endLine).join("\n"),        semantics: o.SnippetSemantics.Snippet,        provider: o.SnippetProvider.NeighboringTabs,        ...n[0]      } : void 0;    }

可以看到所谓 BestMatch，就是取出 retrieveAllSnippets 的第0条结果作为 snippet 返回。

retrieveAllSnippets(e, t = s.Descending) {      const n = [];      if (0 === e.source.length || 0 === this.referenceTokens.size) return n;      const sourceArr = e.source.split("\n");      const key = this.id() + ":" + e.source;      const result = c.get(key) ?? [];      const noCache = 0 == result.length;      const tokens = noCache ? sourceArr.map(this.tokenizer.tokenize, this.tokenizer) : [];      for (const [index, [startLine, endLine]] of this.getWindowsDelineations(sourceArr).entries()) {        if (noCache) {          const e = new Set();          tokens.slice(startLine, endLine).forEach(t => t.forEach(e.add, e));          result.push(e);        }        const r = result[index];        const s = this.similarityScore(r, this.referenceTokens);        n.push({          score: s,          startLine: startLine,          endLine: endLine        });      }      if (noCache) {        c.put(key, result);      }      return this.sortScoredSnippets(n, t);    }

这段代码的核心是根据窗口计算出不同的代码片段与当前文件的相似度，并返回排序后的片段列表。

首先这里做了个缓存处理，用来缓存已经计算过相似度的代码；

然后我们重点关注下这里的几个逻辑：

经过 tokenize 获取到当前代码片段每一行的 token；
通过 getWindowsDelineations 将代码分割成不同的小窗口（步长为1）；
每个窗口的 token 和当前文件（referenceDoc）的 token 做一次相似度计算（Jaccard 相似度）；

这三个点都非常关键，我们展开来分析下：

1.tokenize 计算每一行的 token：

retrieveAllSnippets(e, t = s.Descending) {const n = [];if (0 === e.source.length || 0 === this.referenceTokens.size) return n;const sourceArr = e.source.split("\n");const key = this.id() + ":" + e.source;const result = c.get(key) ?? [];const noCache = 0 == result.length;const tokens = noCache ? sourceArr.map(this.tokenizer.tokenize, this.tokenizer) : [];for (const [index, [startLine, endLine]] of this.getWindowsDelineations(sourceArr).entries()) {if (noCache) {const e = new Set();          tokens.slice(startLine, endLine).forEach(t => t.forEach(e.add, e));          result.push(e);        }const r = result[index];const s = this.similarityScore(r, this.referenceTokens);        n.push({          score: s,          startLine: startLine,          endLine: endLine        });      }if (noCache) {        c.put(key, result);      }return this.sortScoredSnippets(n, t);    }

可以看到处理 tokens 其实就是分词的过程，比普通单词分割多了一步，就是过滤常见的关键词，这些关键词不影响相似度的计算（比如 if、for 这种）。

2.getWindowsDelineations 分割窗口

exports.getBasicWindowDelineations = function (e, t) {  const n = [];  const r = t.length;  if (0 == r) return [];  if (r < e) return [[0, r]];  for (let t = 0; t < r - e + 1; t++) n.push([t, t + e]);  return n;};

getWindowsDelineations 本身逻辑并不复杂，就是根据传入的 windowSize 返回一个二维数组，这个二维数组的每一项都是一个起始行数和终止行数，它返回的是步长为1，在文件里面 windowSize 长度内的所有可能区间。

得到这些区间后，会跟当前的内容（同样 windowSize）进行相似度计算，选择出相似度最高的区间内容返回，这个内容就是最终的 snippet。

其中，获取当前内容的方法如下：

get referenceTokens() {  if (void 0 === this._referenceTokens) {    this._referenceTokens = this.tokenizer.tokenize(this._getCursorContextInfo(this.referenceDoc).context);  }  return this._referenceTokens;}
exports.getCursorContext = function e(doc, opts = {}) {    const opts = function (e) {      return {        ...i,        ...e      };    }(opts);    const s = r.getTokenizer(opts.tokenizerName);    if (void 0 === opts.maxTokenLength && void 0 !== opts.maxLineCount) {      const e = doc.source.slice(0, doc.offset).split("\n").slice(-opts.maxLineCount);      const n = e.join("\n");      return {        context: n,        lineCount: e.length,        tokenLength: s.tokenLength(n),        tokenizerName: opts.tokenizerName      };    }    // ...  };

可以看到，这里取的是当前光标前所有内容在窗口大小的截断，这个会 token 分词之后与对应的相关文件 token 进行相似度计算。

3.相似度计算（Jaccard）

Copilot 通过一个非常简单的 Jaccard 相似度计算方法：

function computeScore(e, t) {    const n = new Set();    e.forEach(e => {      if (t.has(e)) {        n.add(e);      }    });    return n.size / (e.size + t.size - n.size);  }

实际上，Jaccard 相似度计算公式为：

这是一个非常简单的集合运算，利用交集占比来求相似度，Copilot 利用两个分词集合来快速计算文本相似度。

最后，Copilot 调用了 processSnippetsForWishlist，将 snippet 加入到 wishList 当中：

function $() {    const maxSnippetLength = Math.round((promptOpts.snippetPercent / 100) * promptOpts.maxPromptLength);    c.processSnippetsForWishlist(      snippets,      resourceInfo.languageId,      tokenizer,      promptOpts.snippetProviderOptions,      {        priorities: priorities,        low: lowSnippetPriority,        high: highSnippetPriority,      },      promptOpts.numberOfSnippets,      maxSnippetLength    ).forEach((e) => {      let t = p.PromptElementKind.SimilarFile;      if (e.provider === c.SnippetProvider.Retrieval) {        t = p.PromptElementKind.RetrievalSnippet;      } else {        if (e.provider == c.SnippetProvider.SymbolDef) {          t = p.PromptElementKind.SymbolDefinition;        }      }      promptWishlist.append(e.announcedSnippet, t, e.priority, e.tokens, e.normalizedScore);    });  }

从前面我们可以得知 snippetPercent 默认为0，所以这里 maxSnippetLength 也为0.

我们深入看一下 processSnippetsForWishList 的实现：

exports.processSnippetsForWishlist = function (snippets, languageId, tokenizer, snippetProviderOptions, priorities, numberOfSnippets, maxSnippetLength) {    const {      reserved: reserved,      candidates: candidates    } = selectSnippets(snippets, numberOfSnippets, snippetProviderOptions);    let d = 0;    let h = [];    let highPriorities = priorities.high;    let lowPriorities = priorities.low;    function g(snippet, r) {      const o = announceSnippet(snippet, languageId);      const c = tokenizer.tokenLength(o);      let l;      if (r + c <= maxSnippetLength) {        l = highPriorities;        highPriorities = priorities.priorities.justBelow(l);      } else {        l = lowPriorities;        lowPriorities = priorities.priorities.justBelow(l);      }      h.push({        announcedSnippet: o,        provider: snippet.provider,        providerScore: snippet.providerScore,        normalizedScore: snippet.normalizedScore,        priority: l,        tokens: c,        relativePath: snippet.relativePath      });      return r + c;    }    for (const snippet of [...reserved, ...candidates]) {      if (h.length >= numberOfSnippets) break;      d = g(snippete, d);    }    l(h);    h.reverse();    return h;  };

可以看到这里 maxSnippetLength 影响的是 Priority，在这里默认情况下就是 lowPriority 了。

这里的处理其实本质上是对 score 进行正则化，重排序，然后返回 announcedSnippet，这个 announceSnippet 就是最后被加入到 Prompt 文本里的内容：

function announceSnippet(e, t) {    const n = s[e.semantics];    let i = (e.relativePath ? `Compare this ${n} from ${e.relativePath}:` : `Compare this ${n}:`) + "\n" + e.snippet;    if (i.endsWith("\n")) {      i += "\n";    }    return r.commentBlockAsSingles(i, t);  }

可以看到这里，相关文件的 snippet 会包裹在注释里，并在头部加上一行`Compare this …`的文案，提供给模型。

4.beforeCursor

beforeCursor 的代码比较简单：

promptWishlist.appendLineForLine(source.substring(0, offset), p.PromptElementKind.BeforeCursor, beforeCursorPriority).forEach((e) =>      V.push(e)    );

注意这里用了 appendLineForLine，而不是 append，让我们看一下 appendLineForLine 的实现：

appendLineForLine(text, kind, priority) {    const lineArr = (lines = this.convertLineEndings(text)).split("\n");    for (let i = 0; i < lineArr.length - 1; i++) lineArr[i] += "\n";    const lines = [];    lineArr.forEach((line) => {      if ("\n" === line && lines.length > 0 && !lines[lines.length - 1].endsWith("\n\n")) {        lines[lines.length - 1] += "\n";      } else {        lines.push(line);      }    });    const result = [];    lines.forEach((text, index) => {      if ("" !== text) {        result.push(this.append(text, kind, priority));        if (index > 0) {          this.content[this.content.length - 2].requires = [            this.content[this.content.length - 1],          ];        }      }    });    return result;  }

实际上这段代码的作用就是将光标前的内容按行 append，这样在 token 有限的情况下，能够按行保留最大的上下文。

6.5 wishList 的 fullfill 整合处理

在接下来就是一系列依赖关系的处理：

这里其实我不太理解的一点是，pathMarker 和 languageMarker 在这个逻辑里互斥了，在我们上面分析可以看到 pathMarker 的优先级比 languageMarker 优先级高，这里加了一个 exclude，也就意味着 languageMarker 永远不可能出现了。

最后，如果是 suffixPercent 为0的情况下，代码到这里就直接结束了，调用 fullfill 方法返回最终的结果：

if (0 === promptOpts.suffixPercent || q.length <= promptOpts.fimSuffixLengthThreshold)    return promptWishlist.fulfill(promptOpts.maxPromptLength);

当然，经过我们上面的分析 suffixPercent 在当前版本的默认值是15，不为0，会走到 suffix 的逻辑。

不过我们可以先看一下 fullfill 的处理，suffix 逻辑我们就不分析了:

fulfill(maxPromptLength) {    const promptChoices = new PromptChoices();    const promptBackground = new PromptBackground();    const elements = this.content.map((e, t) => ({      element: e,      index: t,    }));    elements.sort((e, t) =>      e.element.priority === t.element.priority        ? t.index - e.index        : t.element.priority - e.element.priority    );    const requires = new Set();    const excludes = new Set();    let lastElement;    const results = [];    let promptLength = maxPromptLength;    elements.forEach((e) => {      const element = e.element;      const index = e.index;      if (        promptLength >= 0 &&        (promptLength > 0 || void 0 === lastElement) &&        element.requires.every((e) => requires.has(e.id)) &&        !excludes.has(r.id)      ) {        let tokens = element.tokens;        const nextElement = (function (e, t) {          let n;          let r = 1 / 0;          for (const i of e)            if (i.index > t && i.index < r) {              n = i;              r = i.index;            }          return n;        })(results, index)?.element;        if (element.text.endsWith("\n\n") && nextElement && !nextElement.text.match(/^\s/)) {          tokens++;        }        if (promptLength >= tokens) {            promptLength -= tokens;            requires.add(r.id);          element.excludes.forEach((e) => excludes.add(e.id));          promptChoices.markUsed(element);          promptBackground.markUsed(element);          results.push(e);        } else {          if (void 0 === lastElement) {            lastElement = e;          } else {            promptChoices.markUnused(e.element);            promptBackground.markUnused(e.element);          }        }      } else {        promptChoices.markUnused(element);        promptBackground.markUnused(element);      }    });    results.sort((e, t) => e.index - t.index);    let prefix = results.reduce((e, t) => e + t.element.text, "");    let prefixLength = this.tokenizer.tokenLength(prefix);    for (; prefixLength > maxPromptLength; ) {      u.sort((e, t) =>        t.element.priority === e.element.priority          ? t.index - e.index          : t.element.priority - e.element.priority      );      const e = u.pop();      if (e) {        promptChoices.undoMarkUsed(e.element);        promptChoices.markUnused(e.element);        promptBackground.undoMarkUsed(e.element);        promptBackground.markUnused(e.element);        if (void 0 !== lastElement) {          promptChoices.markUnused(lastElement.element);          promptBackground.markUnused(lastElement.element);        }        lastElement = void 0;      }      u.sort((e, t) => e.index - t.index);      prefix = u.reduce((e, t) => e + t.element.text, "");      prefixLength = this.tokenizer.tokenLength(prefix);    }    const f = [...u];    if (void 0 !== lastElement) {      f.push(lastElement);      f.sort((e, t) => e.index - t.index);      const prefix = f.reduce((e, t) => e + t.element.text, "");      const prefixLength = this.tokenizer.tokenLength(prefix);      if (prefixLength <= maxPromptLength) {        promptChoices.markUsed(l.element);        promptBackground.markUsed(l.element);        const promptElementRanges = new PromptElementRanges(f);        return {          prefix: prefix,          suffix: "",          prefixLength: prefixLength,          suffixLength: 0,          promptChoices: promptChoices,          promptBackground: promptBackground,          promptElementRanges: promptElementRanges,        };      }      promptChoices.markUnused(l.element);      promptBackground.markUnused(l.element);    }    const m = new PromptElementRanges(u);    return {      prefix: prefix,      suffix: "",      prefixLength: prefixLength,      suffixLength: 0,      promptChoices: promptChoices,      promptBackground: promptBackground,      promptElementRanges: m,    };  }

这个 fullfill 逻辑核心有两点：

首先按照 Priority 排序（Priority 相同按 index），处理文本内容，这就意味着，在有限的 Token 下，Priority 越高的文本越能被保障。

输出的时候，是按照 index 排序的，也就是说 Priority 只用作处理文本的优先级，最终组合的 prefix 文本的顺序是按照插入 wishList 的先后顺序的。

所以我们根据前面的分析，可以看到文本优先级是这样的：

languageMarker；
pathMarkder；
importedFile；
Snippet；

beforeCursor。

而处理优先级是这样的（优先保证的内容）：

beforeCursor；

importedFile；

Snippet；

pathMarkder；

languageMarker。

6.6 Prompt 组成的图示

prompt 从代码上看比较复杂，我们整体把 prefix 的组成画一下做个总结：

07

抓包实验一下

我们找个 TS 文件来试试：

可以看到，在 Copilot 发起的请求中，prompt 包含了 Path Marker 和 BeforeCursor 两个部分，这也是我们在使用过程中绝大多数的面临场景。

如果代码相关性够高，可以看到 snippet 的部分，比如我们拷贝了一个简单的文件：

这个时候就会生成对应的 snippet：

08

小结

从 Copilot 中，我们可以了解到值得学习的几个核心思想：

对于编辑器输入的边界判断，包括太少、太多、取消等等很多场景齐全的考虑；

缓存思想，利用多级缓存策略保护后台，模型运算本身就是一件昂贵的事情；

prompt 的设计，不仅仅包含了上下文代码，在文件解析、编辑器打开的相关代码上还做了很多；

利用简单的 Jaccard 算法计算分词后的文本相似度，能够快速决策出当前上下文相关的 snippet；

实验特性，在 Copilot 中，大量的参数、优先级、设置字段都是通过实验来控制的，有一套完整的监控上报体系，帮助 Copilot 去调整这些参数，以达到更好的效果。

Copilot 的逻辑比我想象中要复杂许多，逆向分析难度就更高了。耗费了很多时间在解析工作上，本文相关的工具链和代码都已上传 Github，希望能够给一些有需要的同学提供帮助：https://github.com/mengjian-github/copilot-analysis

-End-

原创作者｜孟健

除了 GitHub Copilot，你还有哪些珍藏的 VS Code 插件推荐？？欢迎评论。我们将选取1则最有价值的评论，送出开发者定制马克杯1个（见下图）。11月9日中午12点开奖。

📢📢欢迎加入腾讯云开发者社群，社群专享券、大咖交流圈、第一手活动通知、限量鹅厂周边等你来~

（长按图片立即扫码）

01