Skip to content

GitLab

  • Menu
Projects Groups Snippets
    • Loading...
  • Help
    • Help
    • Support
    • Community forum
    • Submit feedback
    • Contribute to GitLab
  • Sign in
  • V verify
  • Project information
    • Project information
    • Activity
    • Labels
    • Members
  • Repository
    • Repository
    • Files
    • Commits
    • Branches
    • Tags
    • Contributors
    • Graph
    • Compare
  • Issues 22
    • Issues 22
    • List
    • Boards
    • Service Desk
    • Milestones
  • Merge requests 0
    • Merge requests 0
  • CI/CD
    • CI/CD
    • Pipelines
    • Jobs
    • Schedules
  • Deployments
    • Deployments
    • Environments
    • Releases
  • Monitor
    • Monitor
    • Incidents
  • Packages & Registries
    • Packages & Registries
    • Package Registry
    • Container Registry
    • Infrastructure Registry
  • Analytics
    • Analytics
    • CI/CD
    • Repository
    • Value stream
  • Wiki
    • Wiki
  • Snippets
    • Snippets
  • Activity
  • Graph
  • Create a new issue
  • Jobs
  • Commits
  • Issue Boards
Collapse sidebar
  • ran.lu
  • verify
  • Wiki
  • aim SDK 支持 tensorboard 日志

aim SDK 支持 tensorboard 日志 · Changes

Page history
Update aim SDK 支持 tensorboard 日志 authored Nov 11, 2022 by ran.lu's avatar ran.lu
Hide whitespace changes
Inline Side-by-side
aim-SDK-支持-tensorboard-日志.md
View page @ 92435996
...@@ -47,6 +47,14 @@ convert 工具对目录结构有要求,见[这里](https://aimstack.readthedoc ...@@ -47,6 +47,14 @@ convert 工具对目录结构有要求,见[这里](https://aimstack.readthedoc
- slurm 拼命令 - slurm 拼命令
- 注意,如果 命令不存在,也不要导致命令出错。 - 注意,如果 命令不存在,也不要导致命令出错。
# 要点
考虑 aimstack rpc 服务访问不到的影响
- 定时转换,是用 os.system 去转的,连不上影响不大
- 结束时:
- 对于有 init-container 的情况,没问题, 只会告警
- 对于没有 init-container 的情况,可能要插入一个伪命令。
# 改动涉及项目 # 改动涉及项目
- ai-arts aistudio-v1.7.1-tensorboard-logs - ai-arts aistudio-v1.7.1-tensorboard-logs
...@@ -103,9 +111,18 @@ update studio_model_versions engine set engine = 'harbor.apulis.cn:8443/algorith ...@@ -103,9 +111,18 @@ update studio_model_versions engine set engine = 'harbor.apulis.cn:8443/algorith
自测: 自测:
- [x] 本地集群 - [x] 本地集群
- [ ] slurm 集群 - [ ] slurm 集群
- 这个目前不知如何向 slurm 任务里面复制文件,现在先没有测。
# TODO
- [ ] 定时转换 tensorboard 会形成较多日志,可以隐藏一下。
- [x] 时间间隔别写死。
- 已经可配置了: `AILAB_JOB_CONVERT_INTERVAL`环境变量。
# caveat # caveat
- 如果用户使用的镜像没有安装 tensorflow , 则会失败。这个估计影响不大,因为这种情况,用户估计没有用 tensorboard … ## 1. 如果用户使用的镜像没有安装 tensorflow , 则会失败。这个估计影响不大,因为这种情况,用户估计没有用 tensorboard …
## 2. 没有入口: 因为现在实验对比,只能查看”运行中“的。
# 其它 # 其它
......
Clone repository
  • 3.137 环境 websocket 连接失败,其它环境无此问题
  • 3.137 环境,即使使用 env 中的 grafana 密码,都无法登陆;测试环境则可以
  • 3.172 不定期出现“疯狂写盘”
  • [2022 11 17] 本地数据集要在 slurm|superpodk8s 上面使用
  • [TODO] 合入日志加速发动
  • [build] 加快 SDK 打包
  • [info] 平台日志
  • [优化] ai arts 调用 aim 时,设置超时时间
  • [问题] aim SDK, 连不上 rpc 时会报错?这不能达到无感知
  • [问题] aimstack 有时会很慢
  • [问题] desay 171 部署: 单个训练成功, 收到 2 次调用, 一次训练成功, 一次训练失败
  • [问题] 收集到的日志只有几个服务。问题: 这个是哪里配置的?
  • aim SDK 支持 tensorboard 日志
  • aim SDK 瘦身
  • gpu02环境 选择 推理模型目录 很慢
View All Pages