176 lines
4.8 KiB
Markdown
176 lines
4.8 KiB
Markdown
# MZM MoE PINN（PyTorch）
|
||
|
||
本仓库已从原先的 MLP 基线迁移为 **Mixture-of-Experts + Physics-Informed Neural Network** 训练流程，目标是尽量对齐 `MZM_MoE_PINN_Model.ipynb` 的训练行为，同时保留仓库化的命令行入口、结果目录和复现产物。
|
||
|
||
## 当前训练管线
|
||
|
||
- **输入**：8 个器件/偏置参数
|
||
- **输出**：`BW_3dB`、`IL`、`V_pi`
|
||
- **模型**：MoE，包含多个专家网络与一个 gating 网络
|
||
- **数据清洗**：保留 `V_pi < 500`
|
||
- **数据划分**：`train_test_split(test_size=0.1, random_state=123)`
|
||
- **标准化**：
|
||
- `X` 使用一个 `StandardScaler`
|
||
- `Y` 的三个目标分别使用独立的 `StandardScaler`
|
||
- **损失**：
|
||
- 数据项：标准化空间 `MSE`
|
||
- 物理项：`dBW/dL <= 0`、`dIL/dL >= 0`、`d(V_pi*L)/dL ~= 0`、`d2BW/dL2` 平滑项
|
||
- **优化器**：`AdamW(lr=1e-3, weight_decay=0.05, betas=(0.9, 0.999))`
|
||
- **训练方式**：固定 `100` epoch，无早停；每轮计算全量 train/test MSE
|
||
|
||
默认物理约束权重来自 `best_hyperparams.json`：
|
||
|
||
```json
|
||
{
|
||
"lambda_bw_mon": 0.0,
|
||
"lambda_IL_mon": 0.3,
|
||
"lambda_vpiL": 0.005,
|
||
"lambda_smooth": 0.1
|
||
}
|
||
```
|
||
|
||
## 数据格式
|
||
|
||
数据文件为 11 列逗号分隔浮点数，列含义如下：
|
||
|
||
| 顺序 | 列名 | 作为 |
|
||
| --- | --- | --- |
|
||
| 1 | `PN_offset` | 输入 |
|
||
| 2 | `Bias_V` | 输入 |
|
||
| 3 | `Core_width` | 输入 |
|
||
| 4 | `P+_width` | 输入 |
|
||
| 5 | `N+_width` | 输入 |
|
||
| 6 | `P_width` | 输入 |
|
||
| 7 | `N_width` | 输入 |
|
||
| 8 | `Phase_length` | 输入 |
|
||
| 9 | `BW_3dB` | 输出 |
|
||
| 10 | `IL` | 输出 |
|
||
| 11 | `V_pi` | 输出 |
|
||
|
||
支持两种文本格式：
|
||
|
||
```text
|
||
a,b,c,...,k
|
||
[a, b, c, ..., k]
|
||
```
|
||
|
||
## 安装
|
||
|
||
```bash
|
||
cd /path/to/photonAI
|
||
python -m venv .venv
|
||
source .venv/bin/activate
|
||
pip install -U pip
|
||
pip install -r requirements.txt
|
||
```
|
||
|
||
## 训练
|
||
|
||
```bash
|
||
python -m src.main train --config configs/default.yaml
|
||
```
|
||
|
||
训练完成后会在 `results/run_时间戳/` 下生成：
|
||
|
||
- `config_snapshot.yaml`
|
||
- `data_report.md`
|
||
- `data_stats.csv`
|
||
- `cleaning_meta.json`
|
||
- `split_indices.json`
|
||
- `x_scaler.pkl`
|
||
- `y_scalers.pkl`
|
||
- `train_log.csv`
|
||
- `checkpoints/best.pt`
|
||
- `checkpoints/last.pt`
|
||
- `metrics.csv`
|
||
- `summary.json`
|
||
- `summary.md`
|
||
- `test_predictions.csv`
|
||
- `figures/*.png`
|
||
|
||
说明：
|
||
|
||
- `train_log.csv` 记录每轮的全量 `train_loss` / `test_loss`
|
||
- `summary.*` 与 `metrics.csv` 中的 `loss` 为**标准化空间 MSE**
|
||
- 物理空间指标仍输出 `MAE / RMSE / R²`
|
||
|
||
## 评估
|
||
|
||
按训练时保存的切分索引与 scaler 重算 train/test 指标：
|
||
|
||
```bash
|
||
python -m src.main eval --config configs/default.yaml --run-dir results/run_YYYYMMDD_HHMMSS
|
||
```
|
||
|
||
## 推理
|
||
|
||
输入文件需包含 8 个输入列（csv 带表头，或 8 列 txt）：
|
||
|
||
```bash
|
||
python -m src.main infer --config configs/default.yaml --input path/to/inputs.csv --output path/to/preds.csv
|
||
```
|
||
|
||
输出列为原始 8 个输入 + `pred_BW_3dB`、`pred_IL`、`pred_V_pi`。
|
||
|
||
## 默认配置
|
||
|
||
`configs/default.yaml` 目前对应 notebook 风格的默认 MoE PINN 参数：
|
||
|
||
- `data.test_size: 0.1`
|
||
- `data.random_state: 123`
|
||
- `data.filter_v_pi_max: 500.0`
|
||
- `model.hidden_dims: [64, 128, 64]`
|
||
- `model.n_experts: 60`
|
||
- `model.gating_hidden: 8`
|
||
- `model.dropout_rate: 0.0`
|
||
- `model.use_bn: true`
|
||
- `optimizer.lr: 0.001`
|
||
- `optimizer.weight_decay: 0.05`
|
||
- `training.batch_size: 128`
|
||
- `training.epochs: 100`
|
||
- `physics.*` 默认由 `best_hyperparams.json` 提供，再由 YAML 显式值覆盖
|
||
|
||
## 测试
|
||
|
||
```bash
|
||
PYTHONPATH=. PYTEST_DISABLE_PLUGIN_AUTOLOAD=1 pytest -q tests/test_smoke.py
|
||
```
|
||
|
||
## 说明
|
||
|
||
- 现在的主流程优先保证与 notebook 的 **数据切分、标准化、模型结构、物理损失和训练循环** 一致。
|
||
- 为了适配仓库化使用，仍保留了 `train / eval / infer` CLI 与 `run_*` 结果目录结构。
|
||
- 旧的 MLP baseline 文档与配置已不再是当前默认路径。
|
||
├── scripts
|
||
│ ├── train.sh
|
||
│ ├── eval.sh
|
||
│ └── infer.sh
|
||
├── src
|
||
│ ├── __init__.py
|
||
│ ├── config.py
|
||
│ ├── utils.py
|
||
│ ├── data.py
|
||
│ ├── preprocess.py
|
||
│ ├── model.py
|
||
│ ├── losses.py
|
||
│ ├── metrics.py
|
||
│ ├── trainer.py
|
||
│ ├── evaluate.py
|
||
│ ├── infer.py
|
||
│ ├── plots.py
|
||
│ └── main.py
|
||
└── tests
|
||
└── test_smoke.py
|
||
```
|
||
|
||
## 后续可扩展方向
|
||
|
||
- **Physics-informed loss**：在标准化空间外叠加与器件物理相关的软约束。
|
||
- **PINN / 解析近似混合**：将部分输出与简化解析模型对齐。
|
||
- **结构搜索**：在 `hidden_dims`、残差块、Bayesian 优化超参等方向扩展。
|
||
- **不确定度**：深度集成、MC Dropout、浅层高斯过程等。
|
||
|
||
## 许可证与引用
|
||
|
||
若用于论文，请在方法部分说明数据处理、划分方式与随机种子；并引用本仓库或内部项目号（自行补充）。
|