加入收藏 | 设为首页 | 会员中心 | 我要投稿 济南站长网 (https://www.0531zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 综合聚焦 > 移动互联 > 评测 > 正文

Composer 中国全量镜像开源了,一起让 PHP 社区更繁荣

发布时间:2019-05-30 08:40:46 所属栏目:评测 来源:WantoDel
导读:副标题#e# 先上链接:https://github.com/zencodex/composer-mirror ZComposer 镜像诞生于 2017 年 3 月份,至今已不间断稳定运行 2 年多了。如何保证Composer 镜像的稳定性,是面临的最大难题,所以简单聊一些开发和解决问题的思路,希望能对你有一点启发
副标题[/!--empirenews.page--]

 Composer 中国全量镜像开源了,一起让 PHP 社区更繁荣

先上链接:https://github.com/zencodex/composer-mirror

ZComposer 镜像诞生于 2017 年 3 月份,至今已不间断稳定运行 2 年多了。如何保证Composer 镜像的稳定性,是面临的最大难题,所以简单聊一些开发和解决问题的思路,希望能对你有一点启发。如果你觉得有些收获,请点下鼠标,在 github 上给我 1 个 star(支持下),谢谢。

  1. 安全性,不对原有的 json,zip 做修改,否则会引起 hash 变化,重新计算 hash 没问题(之前第三方有这么做的),这样带来的问题是,无法对包的安全性做校验,假如有恶意黑镜像,对数据做了修改,就无法判断了。所以 ZComposer 的镜像,所有的包都是和 packagist.org 官方一致的,可以比对 hash ,没有任何修改。

  2. 稳定性,因为不间断的采集数据,上传数据,中间有一个环节出现差错,就可以导致有问题,所以务必对采集完的包,通过 hash 值做完整性检查。有时候第三方的 API 策略,或者 CDN 线路都可能导致出现问题。所以做镜像最大的难点,是稳定性的保障。

  3. Webysther/packagist-mirror(官方推荐的镜像开源) fork 自 hirak/packagist-crawler,但这些镜像开源都没有处理 dist 包,而 dist 包才是最大 / 最多的,最值得 CDN 处理的。ZComposer 开源是全量镜像,包含了对 dist 部分的处理。dist 包还有个 65000 上限子目录数 的问题,1 年的时间,包的数量都是成倍的增加。软连接的方案是我原创出来的,或许随着包的无限增加,还需要设计其他方案。
ZComposer 镜像的安装部署

推荐运行主机配置:

  • [x] 内存最好不低于 4G
  • [x] 剩余磁盘空间不低于 30G
  •  
    1. $ apt install beanstalkd 
    2. $ cd composer-mirror 
    3. $ composer install 
修改配置参数

通常根据自己部署的实际环境,修改参数。详细配置说明详见 config.default.php

cp config.default.php config.php,修改 config.php 中的如下参

  1. /** 
  2.    * distdir 用于存储 zip 包 
  3.    */ 
  4.   'distdir' => __DIR__ . '/dist/', 
  5.  
  6.   /** 
  7.    * 指向 mirrorUrl 对应的 web 实际目录 
  8.    */ 
  9.   'cachedir' => __DIR__ . '/cache/', 
  10.  
  11.   /** 
  12.    * packagistUrl:官方采集源 
  13.    */ 
  14.   'packagistUrl' => 'https://packagist.org', 
  15.  
  16.   /** 
  17.    * 镜像包发布站点, packages.json 入口根域名 
  18.    */ 
  19.   'mirrorUrl' => 'https://packagist.laravel-china.org', 
  20.  
  21.   /** 
  22.    * .json 中 dist 分发 zip 包的CDN域名 
  23.    */ 
  24.   'distUrl' => 'https://dl.laravel-china.org/', 

supervisor 配置

sudo vim /etc/supervisor/supervisord.conf,添加如下配置信息:

  1. [program:crawler] 
  2. command=php ./bin/console app:crawler 
  3. directory=/home/zencodex/composer-mirror/  ;部署代码的位置,自行替换 
  4. autostart=true 
  5. autorestart=true 
  6. redirect_stderr = true  ; 把 stderr 重定向到 stdout,默认 false 
  7. stdout_logfile_maxbytes = 10MB  ; stdout 日志文件大小,默认 50MB 
  8. stdout_logfile_backups = 5      ; stdout 日志文件备份数 
  9. stdout_logfile = /tmp/composer_crawler_stdout.log 
  10.  
  11. [program:composer_daemon] 
  12. command=php ./bin/console app:daemon 
  13. directory=/home/zencodex/composer-mirror/  ;部署代码的位置,自行替换 
  14. autostart=true 
  15. autorestart=true 
  16. redirect_stderr = true  ; 把 stderr 重定向到 stdout,默认 false 
  17. stdout_logfile_maxbytes = 10MB  ; stdout 日志文件大小,默认 50MB 
  18. stdout_logfile_backups = 5      ; stdout 日志文件备份数 
  19. stdout_logfile = /tmp/composer_daemon_stdout.log 

crontab 定时任务

  1. # sudo crontab -e 
  2. # 根据自己环境代码的位置,替换 /home/zencodex/composer-mirror  
  3. # getcomposer 是获取最新的 composer,上传到 CDN 云存储 
  4.  
  5. 0 */2 * * * /usr/bin/php /home/zencodex/composer-mirror/bin/console app:clear --expired=json 
  6. 0 1 * * * /usr/bin/php /home/zencodex/composer-mirror/getcomposer.php 
常用命令
  1. # 执行抓取任务 
  2. $ php ./bin/console app:crawler 
  3.  
  4. # 后台多进程模型同步又拍云 
  5. $ php ./bin/console app:daemon 
  6.  
  7. # 清理过期垃圾文件 
  8. $ php ./bin/console app:clear --expired=json 
  9.  
  10. # 扫描并校验所有json和zip文件的hash256 
  11. $ php ./bin/console app:scan 

For Developers

  • 没有使用数据库存储,完全是按目录结构存储
  • 每个包的 dist/zip 文件存储的是对应 github url 的下载地址,因磁盘空间有限,不在本地存储,直接推送到云端
  • 清理过期文件,判断是否有更新,是否过期的依据是文件的时间戳,所以不要手动对文件做 touch,或引起时间戳变化的操作

(编辑:济南站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!