node.js - 对同一服务器上的多个工作区使用共享的 npm node_modules/

标签 node.js npm npm-shrinkwrap

我们的 Jenkins/CI 服务器每天为我们的 Node/js 项目运行数百个构建,我希望能够在完全干净的工作区中运行每个构建。但是,npm install 步骤可能需要 10 分钟以上,这实在是太慢了。相反,由于我们的 npm 依赖项仅针对少量构建(约占所有构建的 1%)发生变化,因此我只想在每次 npm-shrinkwrap.json 更改时运行 npm install 一次(在每次构建时检查 md5sum)。如果收缩包装文件未更改,请使用缓存的 node_modules/ 目录。

如果我复制缓存的 node_modules/,这个计划就足够好了,但是即使该操作也可能需要一分钟的时间。为了进一步优化我们的构建时间,我希望能够符号链接(symbolic link)到缓存的 node_modules/,这应该会大大提高我们的整体构建性能。

ln -s /path/to/cache/ /path/to/workspace/node_modules

但是,在依赖关系树的多个级别存在依赖关系的情况下,简单地符号链接(symbolic link)到缓存路径不起作用。例如,我们的顶级项目依赖于 gulpgulp-util。顶级依赖项还取决于 gulp-util。 npm install 后,gulp-util 将安装在顶级 node_modules/ 中,但不会安装在 node_modules/gulp/node_modules 中。

如果依赖项存在于本地工作区(即真实目录 /path/to/workspace/node_modules/)中,那么 node_modules/gulp 中的 require('gulp-util') 的任何实例都将(我认为)递归依赖关系树,直到找到合适的 gulp-util 模块。也就是说,它首先在 /path/to/workspace/node_modules/gulp/node_modules/gulp-util 中查找,没有找到任何内容,然后在 /path/to/workspace/node_modules/gulp-util 中查找,找到合适的模块,导入它并继续。

但是,当这是一个符号链接(symbolic link)时,我会收到如下错误:

module.js:339
    throw err;
    ^

Error: Cannot find module 'gulp-util'
    at Function.Module._resolveFilename (module.js:337:15)
    at Function.Module._load (module.js:287:25)
    at Module.require (module.js:366:17)
    at require (module.js:385:17)
    at Object.<anonymous> (/path/to/cache/gulp/index.js:4:15)
    at Module._compile (module.js:435:26)
    at Object.Module._extensions..js (module.js:442:10)
    at Module.load (module.js:356:32)
    at Function.Module._load (module.js:311:12)
    at Module.require (module.js:366:17)
    at require (module.js:385:17)

我认为这会尝试与其他版本执行相同的操作,但我不明白为什么它找不到gulp-util。无论是在 /path/to/workspace/node_modules/gulp-util 还是 /path/to/cache/gulp-util 中查找,它都应该找到该模块并能够导入它。

我尝试通过手动安装模块 gulp/node_modules/gulp-util 来解决此问题,但我遇到了数十个此类错误,并且在构建服务器上手动处理此问题是不可行的。编写一些代码来搜索这种类型的依赖项并安装它们是可能的,但感觉这样做是错误的。

npm 一定有某种方式支持这样的工作流程,对吧?我错过了一些明显的东西吗?我是否掩盖了文档中的某些内容?

最佳答案

感谢 @amol-m-kulkarni here 发布的回答(上面@darko-rodic 很有帮助地引用了),我意识到了我的错误。

If the given module is not a core modules(e.g. http, fs, etc.), Node.js will then begin to search for a directory named, node_modules.

It will start in the current directory (relative to the currently-executing file in Node.JS) and then work its way up the folder hierarchy, checking each level for a node_modules folder. Once Node.JS finds the node_modules folder, it will then attempt to load the given module either as a (.js) JavaScript file or as a named sub-directory; if it finds the named sub-directory, it will then attempt to load the file in various ways. So, for example

我的错误在于我给缓存路径的名称。由于它被命名为 /path/to/cacherequire 在路径中遇到最后一个 node_modules 目录后停止向上查找。在本例中,它停在 /path/to/cache/gulp/node_modules 处,并且没有意识到 /path/to/cache/gulp-util 应该在搜索中被考虑。

我通过将缓存重命名为 /path/to/cache/node_modules 解决了这个问题,这样 require 将继续搜索,直到达到该级别,并随后找到 /path/to/cache/node_modules/gulp-util

我将再次引用文档,看看我是否应该清楚这一点。

关于node.js - 对同一服务器上的多个工作区使用共享的 npm node_modules/,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36428300/

相关文章:

android - SocketIO Android 不发出连接事件

node.js - npm 递归更新包

json - 从自定义文件系统目录离线透明地安装 npm 包

javascript - 浏览器无法访问Docker nodejs容器

javascript - Node.js:通过服务器响应发送流数据(无管道)

javascript - Reactjs Facebook 登录库问题 - 使 componentClicked 函数异步

node.js - 全局删除所有 npm 模块的命令

node.js - 如何恢复多个平台的 Node 模块?

npm - 何时使用收缩包装、npm-lockdown 或 npm-seal

node.js - 比较编辑器不在 node.js 项目上的 eclipse 上工作