芯耀
与非AI
255
1.项目背景
在智慧农业的全球浪潮下，农作物病害的精准监测已成为保障粮食安全与提升耕作效率的核心环节。番茄作为全球范围内栽培最广、经济价值极高的蔬菜作物之一，在其生长周期内极易受到细菌、真菌、病毒及虫害的多重威胁。传统的病害辨识高度依赖经验丰富的农技人员进行人工巡检，但在面对早疫病、晚疫病、黄化曲叶病毒等 10 余种视觉特征高度相似的病理表现时，非专业人员往往难以做出即时且准确的判断。这种诊断的滞后性不仅会导致农药的盲目滥用，更可能引发大面积减产，严重制约了现代农业的精细化发展。
本项目旨在利用卷积神经网络（CNN）强大的非线性特征提取能力，构建一套能够覆盖 11 类典型状态的智能化识别系统。实验不仅涵盖了从实验室受控环境到复杂自然农田场景的 2 万余张影像样本，更在算法设计上兼顾了高精度与轻量化的平衡。通过深度卷积层的层级化抽象，模型能够自动捕捉病斑边缘、叶面霉层及色彩异变等核心视觉特征。
本实战不仅展示了从数据增强、多维监控训练到混淆矩阵深度评估的全流程工程实践，更致力于探索一套可离线部署于移动设备的 AI 诊断方案。这不仅是一场算法性能的演练，更是为了让每一个手持移动终端的农户都能拥有一位“口袋里的农业专家”，将田间病害的防控门槛降至最低。
2.数据集介绍
本实验数据集来源于Kaggle，该数据集是Kaggle 上最大的番茄叶片病害数据集（2022 年），包含 11 个类别，涉及 10 种病害。超过2万张番茄叶片图像，涵盖10种病害和1种健康状态。图像采集自实验室环境和自然环境。目标是开发一个轻量级模型，用于预测番茄叶片病害，并将其部署在可离线使用的移动应用程序上。
Classes:
- Late_blighthealthyEarly_blightSeptoria_leaf_spotTomato_Yellow_Leaf_Curl_VirusBacterial_spotTarget_SpotTomato_mosaic_virusLeaf_MoldSpider_mites Two-spotted_spider_mitePowdery Mildew
3.技术工具
Python版本:3.9
代码编辑器：jupyter notebook
4.实验过程
4.1导入数据
在构建深度学习分类流水线时，环境的整洁与高效的路径索引是第一步。本阶段我们集成了 TensorFlow 与 Keras 核心库，并引入了多种经典的主流预训练模型架构（如 MobileNetV2、ResNet50V2 等），为后续的迁移学习对比实验做好储备。
针对番茄病害数据集，由于不同病害类别的图像分布在各自的子文件夹中，我们通过 os.listdir 建立了一套递归索引机制。这一步的关键在于不仅要准确抓取 .jpg 或 .png 等常见格式的原始图像路径，更要建立起文件路径与病害类别标签之间的逻辑映射。这种“全路径扫描”的方式能够确保我们在不预先加载全部数据到内存的前提下，灵活地对海量样本进行乱序、分割与预处理。
# --- 1. 环境初始化：过滤冗余警告，导入核心科学计算与深度学习库 ---import warningswarnings.filterwarnings('ignore') # 忽略版本更迭产生的警告，保持控制台整洁import osimport randomimport numpy as npimport matplotlib.pyplot as pltimport cv2import tensorflow as tffrom tensorflow import kerasfrom tqdm.auto import tqdm # 进度条工具，用于实时监控大规模数据读取from sklearn.model_selection import train_test_splitfrom sklearn.metrics import confusion_matrix, ConfusionMatrixDisplay# --- 2. 深度学习组件：涵盖模型加载、回调监控及图像增强 ---from tensorflow.keras.models import load_modelfrom tensorflow.keras.callbacks import EarlyStopping, ModelCheckpointfrom tensorflow.keras.preprocessing.image import ImageDataGenerator# --- 3. 预训练架构：导入用于迁移学习对比的不同深度网络模型 ---from tensorflow.keras.applications import ResNet50V2, VGG16, VGG19, MobileNetV2# 导入特定架构对应的预处理逻辑，确保输入像素分布的一致性from tensorflow.keras.applications.mobilenet_v2 import preprocess_input as preprocess_mobilenetv2from tensorflow.keras.applications.resnet_v2 import preprocess_input as preprocess_resnet50v2from tensorflow.keras.utils import to_categorical# --- 4. 路径索引：递归扫描番茄病害数据集目录 ---main_folder = r'/kaggle/input/tomato-disease-multiple-sources/train'# 初始化列表，用于存储所有有效样本的绝对路径images = []# 遍历主文件夹下的每个病害类别子文件夹for folder in os.listdir(main_folder):path = os.path.join(main_folder, folder)print(f"检测到类别目录: {path}")# 筛选有效图像文件，排除隐藏文件或非图片格式for img in os.listdir(path):if img.endswith(('.jpg', '.png', '.jpeg')):images.append(os.path.join(path, img))
4.2数据可视化
为了建立对数据集的感性认识，我们编写了这段随机采样代码。利用 random.sample 从上万张路径列表中抽取出 16 组典型样本，并借助 cv2 完成了从 BGR 到 RGB 的色彩空间校准——这是因为 OpenCV 默认的读取习惯与 Matplotlib 的显示规范存在色差。通过 4x4 的矩阵排列，我们可以清晰地观察到不同类别的番茄叶片形态：有的布满了干枯的褐色圆斑（如早疫病），有的则呈现出脉络不规则的黄化（如病毒病）。这种视觉核验不仅确认了图像读取逻辑的正确性，也让我们确信数据集中包含了足够的形态多样性，为 CNN 捕捉病理纹理提供了丰富的素材池。
# --- 1. 随机抽样：从海量路径库中抽取 16 张代表性图片 ---random_images = random.sample(images, 16)# --- 2. 构建可视化画布：设置 4x4 的展示矩阵 ---plt.figure(figsize=(12, 12))plt.suptitle("番茄叶片病害样本随机巡检", fontsize=20, y=1.02)# 利用 tqdm 驱动循环，同时监控处理进度for i, img_path in enumerate(tqdm(random_images, desc="正在渲染样本")):# 使用 OpenCV 读取原始图像img = cv2.imread(img_path)# 容错处理：跳过损坏或无法读取的文件if img is None:continue# 色彩空间转换：OpenCV 的 BGR 转换为 Matplotlib 兼容的 RGBimg = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)# 动态创建子图布局plt.subplot(4, 4, i + 1)plt.imshow(img)plt.axis('off') # 隐藏坐标轴，聚焦叶片病斑细节plt.title(f'Sample Image {i+1}', fontsize=10)# 自动调整间距，防止标题重叠plt.tight_layout()plt.show()
4.3特征工程
本阶段的核心任务是构建一套标准化的数据供给流。首先，通过自定义的 cnn_preprocess 函数将像素值从 [0, 255] 压缩至 [0, 1] 区间，这一归一化操作能有效避免梯度爆炸，让神经网络的权重更新更加平稳。针对番茄病害特征的复杂性，我们利用 ImageDataGenerator 开启了全方位的空间增强：涵盖了模拟拍摄角度偏差的随机旋转、模拟成像畸变的剪切变换，以及模拟远近变焦的随机缩放。
此外，通过 validation_split 参数，我们严谨地从原始训练集中剥离出 20% 的数据作为“监考官”，确保模型在进化过程中时刻接受无偏见性能评估。最终，flow_from_directory 机制会自动根据子文件夹名称建立病害类别标签，将海量零散的叶片影像转化为源源不断的结构化张量流。
# --- 1. 路径定义与核心参数配置 ---train_path = '/kaggle/input/tomato-disease-multiple-sources/train'test_path = '/kaggle/input/tomato-disease-multiple-sources/valid'IMG_SIZE = 224 # 适配大多数 CNN 的标准输入尺寸batch_size = 32 # 批处理大小，平衡内存占用与梯度稳定性# --- 2. 定义自定义预处理逻辑：像素归一化 ---def cnn_preprocess(x):"""将图像像素值缩放到 [0, 1] 之间，加速模型收敛"""return x / 255.0# --- 3. 构建训练集增强生成器：模拟自然环境的多样性 ---cnn_train_datagen = ImageDataGenerator(preprocessing_function=cnn_preprocess,# 空间增强策略：提升模型泛化性能rotation_range=20, # 随机旋转（角度范围 0-20）width_shift_range=0.2, # 水平平移height_shift_range=0.2, # 垂直平移shear_range=0.2, # 剪切强度zoom_range=0.2, # 随机缩放horizontal_flip=True, # 水平翻转，模拟叶片正反面或镜像fill_mode='nearest', # 填充变换后的空白区域validation_split=0.2 # 自动划出 20% 用于验证)# --- 4. 生成训练与验证数据流 ---cnn_train_generator = cnn_train_datagen.flow_from_directory(train_path,target_size=(IMG_SIZE, IMG_SIZE),batch_size=batch_size,class_mode='categorical', # 多分类任务：采用独热编码标签subset='training', # 提取训练子集shuffle=True # 打乱顺序，防止顺序偏差)cnn_val_generator = cnn_train_datagen.flow_from_directory(train_path,target_size=(IMG_SIZE, IMG_SIZE),batch_size=batch_size,class_mode='categorical',subset='validation', # 提取验证子集shuffle=True)# --- 5. 构建测试集生成器：仅做标准化，不做增强 ---# 测试集必须反映真实的原始输入分布cnn_test_datagen = ImageDataGenerator(rescale=1./255)cnn_test_generator = cnn_test_datagen.flow_from_directory(test_path,target_size=(IMG_SIZE, IMG_SIZE),batch_size=batch_size,class_mode='categorical',shuffle=False, # 测试时保持顺序，以便后续生成混淆矩阵)
通过这套自动化的数据流水线，我们成功规避了手动加载数万张图片可能导致的内存溢出风险。特别需要注意的是，在测试集（Test Set）中，我们严禁使用旋转、缩放等增强手段，仅保留基础的像素归一化（Rescale），这是为了真实模拟农民在田间手持设备拍摄时的最原始图像输入。随着生成器的就绪，模型现在可以接触到成千上万种“变体”后的番茄叶片，这种对病斑本质特征的提取能力，将是我们在接下来的 CNN 架构搭建中追求的核心目标。
4.4构建模型
本模型采用典型的 Sequential 序贯模型构建。架构设计上，我们部署了三组“卷积+池化”的核心单元：前两层使用 64 个 3 x 3 卷积核初步过滤噪声，第三层则提升至 128 个卷积核以强化高阶语义表达。为了应对全连接层可能产生的过拟合风险，我们在 Flatten 层后引入了比例为 0.4 的 Dropout 随机失活机制，强制网络不依赖于某些特定的“强特征”路径，从而提升泛化性。
末端的全连接层采用逐级降维策略（128-64-64），最后通过 Softmax 激活函数输出与番茄病害种类等量的概率分布。这种“先提取空间特征、再进行非线性映射”的设计逻辑，确保了模型既能认准病斑形状，又能通过深度融合做出准确的逻辑判定。
# --- 1. 定义 CNN 序贯模型架构 ---cnn_model = keras.Sequential([# 输入层：接收 224x224 的 RGB 三通道彩色图像keras.layers.Input(shape=(IMG_SIZE, IMG_SIZE, 3)),# 第一组特征提取模块：初步捕获病斑边缘与纹理keras.layers.Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),keras.layers.MaxPooling2D(pool_size=(2, 2)), # 空间维度压缩，提取显著特征# 第二组特征提取模块：加强病理纹理的抽象能力keras.layers.Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),keras.layers.MaxPooling2D(pool_size=(2, 2)),# 第三组特征提取模块：提取更深层的语义特征（如复杂的叶斑拓扑）keras.layers.Conv2D(filters=128, kernel_size=(3, 3), activation='relu'),keras.layers.MaxPooling2D(pool_size=(2, 2)),# --- 2. 特征扁平化与正则化 ---keras.layers.Flatten(),# 随机失活：防止模型死记硬背训练样本，增强抗噪声能力keras.layers.Dropout(0.4),# --- 3. 分类决策头：多层感知机进行非线性推理 ---keras.layers.Dense(units=128, activation='relu'),keras.layers.Dense(units=64, activation='relu'),keras.layers.Dense(units=64, activation='relu'),# 输出层：根据病害类别数输出归一化概率# 使用 softmax 确保所有类别的概率总和为 1keras.layers.Dense(units=len(cnn_val_generator.class_indices), activation='softmax', dtype='float32')])# --- 4. 打印网络拓扑结构 ---# 检查参数分布、特征图尺寸演变以及总参数量cnn_model.summary()
通过 summary() 我们可以观察到，模型在保持高特征分辨率的同时，参数量控制在了一个合理的范围内。这种结构不仅兼顾了计算效率，更适合在移动端或嵌入式农业监测设备上运行。值得注意的是，卷积核的数量从 64 增加到 128，体现了“随着视野变小、特征维度增加”的设计哲学，这对于识别那些在视觉上极其相似的叶片病害（如早疫病与晚疫病的初期对比）具有重要的工程意义。
4.5训练模型
在模型编译阶段，我们选用了 Adam 优化器，它能根据梯度的历史表现动态调整学习率，这对于处理特征跨度较大的农作物病害样本尤为有效。损失函数采用 CategoricalCrossentropy，配合精确率（Precision）和召回率（Recall）等多维指标，全面审视模型在识别各类病害时的灵敏度。为了增强工程稳定性，我们配置了两套核心回调（Callbacks）：EarlyStopping 设定了 5 个 Epoch 的耐心值，一旦验证集损失停止下降即提前终止，防止无谓的算力消耗；ModelCheckpoint 则负责在整个迭代周期内充当“黑匣子”，自动锁定并保存验证集损失（val_loss）最低时刻的 .keras 完整模型，确保我们手中握有的始终是性能天花板。
# --- 1. 配置智能监控回调函数 ---callbacks = [# 提前停止策略：防止过拟合，若 5 轮内验证集损失不降则自动停机EarlyStopping(monitor='val_loss',patience=5,restore_best_weights=True # 自动回滚到表现最好的权重状态),# 最优权重备份：实时监控验证集并保存损失值最低的模型ModelCheckpoint(filepath='CNN_best_model.keras',monitor='val_loss',save_best_only=True, # 仅保留历史最佳save_weights_only=False, # 保存完整架构与权重mode='min', # 以最小化损失为优化目标verbose=1)]# --- 2. 编译模型：配置优化器、多分类损失函数及多维评估指标 ---cnn_model.compile(optimizer=keras.optimizers.Adam(),loss=keras.losses.CategoricalCrossentropy(),# 引入精确率与召回率，深入分析各类病害的误报与漏报风险metrics=['accuracy',keras.metrics.Precision(name='precision'),keras.metrics.Recall(name='recall')])# --- 3. 开启迭代训练：注入数据流，启动卷积特征学习 ---cnn_history = cnn_model.fit(cnn_train_generator, # 带有实时数据增强的训练流epochs=20, # 设置最大迭代轮次validation_data=cnn_val_generator, # 验证集作为性能标尺callbacks=callbacks # 挂载监控组件)
随着 fit 过程的推进，模型开始通过反向传播不断修正卷积核的敏感度。每一个 Epoch 的结束都伴随着精确率与召回率的波动，这实际上是网络在不同病害特征（如叶缘卷曲与叶面霉层）之间寻找区分界限的过程。得益于 ModelCheckpoint 的存在，即便在第 20 轮之后出现了性能回落，我们也能精准找回那个在“病斑识别”上表现最平衡的历史时刻。这种严谨的自动化训练闭环，是构建工业级农业 AI 诊断工具的必经之路。
4.6模型评估
评估的第一步是审视训练与验证曲线的演进趋势。通过 matplotlib 构建的对比图表，我们可以清晰地观察到 Accuracy（准确率）与 Loss（损失函数）在 20 个 Epoch 间的动态平衡。理想的状态是两条曲线紧密贴合并同步收敛，如果在训练后期 Training Accuracy 持续攀升而 Validation Accuracy 陷入停滞甚至下滑，则预示着模型出现了过拟合现象。通过这种视觉化的复盘，我们可以验证之前的 Dropout 与 数据增强 策略是否成功压制了网络对训练样本的“死记硬背”，确保了模型是在学习病理纹理的本质。
# --- 1. 可视化训练动态：评估收敛性与过拟合风险 ---plt.figure(figsize=(12, 6))# 绘制准确率演进图plt.subplot(1, 2, 1)plt.plot(cnn_history.history['accuracy'], label='训练准确率 (Training)')plt.plot(cnn_history.history['val_accuracy'], label='验证准确率 (Validation)')plt.title('训练与验证准确率对比')plt.xlabel('迭代轮次 (Epochs)')plt.ylabel('准确率 (Accuracy)')plt.legend()# 绘制损失函数演进图plt.subplot(1, 2, 2)plt.plot(cnn_history.history['loss'], label='训练损失 (Training)')plt.plot(cnn_history.history['val_loss'], label='验证损失 (Validation)')plt.title('训练与验证损失对比')plt.xlabel('迭代轮次 (Epochs)')plt.ylabel('损失 (Loss)')plt.legend()plt.show()
在模型确认收敛后，最严苛的考验来自于 cnn_test_generator 提供的独立测试集。这部分数据在训练过程中从未被模型触达，代表了模型在现实农田环境中可能遭遇的未知挑战。由于医学与农业影像数据有时存在截断或编码不完整的问题，我们特别引入了 ImageFile.LOAD_TRUNCATED_IMAGES 补丁以增强读取的工程鲁棒性。通过 evaluate 方法，我们可以得到模型在全测试集上的平均损失与多维指标表现，这不仅是对算法精度的量化总结，更是对该番茄病害诊断系统可靠性的最终背书。
# --- 2. 鲁棒性设置与测试集终极压测 ---from PIL import ImageFile# 开启容错模式，允许加载不完整的图像文件，确保在大规模数据流中不因异常样本中断ImageFile.LOAD_TRUNCATED_IMAGES = True# 在独立的测试集上运行模型，获取最真实的泛化性能指标test_results = cnn_model.evaluate(cnn_test_generator)
为了深入挖掘模型对特定病害的辨析能力，我们引入了混淆矩阵（Confusion Matrix）。通过将 cnn_model.predict 生成的概率分布转化为预测标签，并与测试集的真值进行交叉对冲，我们可以直观地看到模型在哪些病害之间产生了“迟疑”。例如，如果矩阵对角线上的数值分布均匀且高度集中，说明模型对各类病害的识别力均衡；如果某些非对角线区域出现了明显的数值堆积，则暴露了模型在区分如“细菌性斑点”与“晚疫病”时的特征混淆。这种多维度的诊断分析，为后续针对特定类别的样本补偿与模型微调指明了方向。
# --- 3. 混淆矩阵：洞察各类病害的分类精度与误报情况 ---# 获取模型对测试集的原始概率输出y_pred_probs = cnn_model.predict(cnn_test_generator)# 取概率最大的索引作为最终预测类别y_pred = np.argmax(y_pred_probs, axis=1)# 提取测试集的真实标签y_true = cnn_test_generator.classes# 获取类别名称映射关系class_names = list(cnn_test_generator.class_indices.keys())# 计算并生成混淆矩阵plt.figure(figsize=(12, 10))cm = confusion_matrix(y_true, y_pred)disp = ConfusionMatrixDisplay(confusion_matrix=cm, display_labels=class_names)# 使用 Blues 色阶进行渲染，颜色越深代表匹配度越高disp.plot(cmap=plt.cm.Blues, xticks_rotation=45)plt.title("番茄病害分类混淆矩阵 (Confusion Matrix)")plt.show()
4.7模型预测
为了模拟真实的田间诊断过程，我们从测试集中随机抽取了 16 张番茄叶片影像进行实时推理。在这一环节中，每一张图像都经历了与训练时一致的重采样（Resize）与归一化（Normalization）处理，确保输入张量的特征分布落在模型的“认知范围”内。我们通过对比标签的颜色来直观判定结果：预测正确的样本以绿色标注，而预测偏差的样本则以红色警示。这种可视化策略能让我们一眼发现模型在特定病害（如某些相似的真菌感染）上的薄弱点，从而为后续的针对性数据补强提供第一手参考。
# --- 1. 随机抽样：从测试集中随机选取 16 个样本索引 ---sample_indices = random.sample(range(len(cnn_test_generator.filepaths)), 16)# --- 2. 构建预测对比矩阵布局 ---plt.figure(figsize=(15, 15))plt.suptitle("番茄病害 AI 诊断实战：测试集随机样本预测对比", fontsize=20, y=1.02)for i, idx in enumerate(tqdm(sample_indices, desc="执行实时推理")):# 获取图像路径并进行读取校准img_path = cnn_test_generator.filepaths[idx]img = cv2.imread(img_path)img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB) # 确保色彩还原真实# 预处理：严格对齐模型输入尺寸img_resized = cv2.resize(img, (IMG_SIZE, IMG_SIZE))# 归一化：将像素值缩放至 [0, 1] 空间img_normalized = img_resized / 255.0# 维度扩充：(H, W, C) -> (1, H, W, C)，符合 Keras 批处理输入规范img_input = np.expand_dims(img_normalized, axis=0)try:# 执行前向传播计算，verbose=0 禁用冗余预测日志pred_probs = cnn_model.predict(img_input, verbose=0)pred_class = np.argmax(pred_probs) # 选取概率最高的类别索引# 获取真实标签与预测标签的文字映射true_class = cnn_test_generator.classes[idx]true_label = list(cnn_test_generator.class_indices.keys())[true_class]pred_label = list(cnn_test_generator.class_indices.keys())[pred_class]# 动态绘制子图plt.subplot(4, 4, i+1)plt.imshow(img_resized)plt.xticks([])plt.yticks([])# 结果反馈：匹配正确显示绿色，匹配失败显示红色提示is_correct = (true_class == pred_class)plt.xlabel(f'真值: {true_label}n预测: {pred_label}',color='green' if is_correct else 'red',fontsize=10)except Exception as e:print(f"处理样本 {img_path} 时发生异常: {str(e)}")continue# 优化视觉布局，防止标签文字重叠plt.tight_layout()plt.show()
5.总结
本实验依托于Kaggle上规模最大的番茄叶片病害数据集，针对涵盖 10 种常见病害及 1 种健康状态的 2 万余张影像样本，构建并优化了一套专为移动端部署设计的轻量级 CNN 分类模型。实验结果显示，该模型在复杂的实验室与自然环境混合数据下表现稳健，最终在测试集上取得了 0.8831 的像素准确率，且 Precision（0.9217） 与 Recall（0.8595） 指标表现均衡，证明了其在识别早疫病、晚疫病及各类病毒病等 11 个类别时具备极高的辨析精度。
通过混淆矩阵的深度分析可见，尽管不同病害在视觉纹理上存在一定的跨类相似性，但模型依然能够精准锁定病斑的核心特征，有效降低了误诊与漏诊率。这一成果不仅验证了卷积神经网络在智慧农业植保领域的实用性，更为开发能够离线运行、秒级响应的移动端番茄病害监测应用提供了坚实的算法内核，为农户实时掌控作物健康状态提供了可靠的数字化保障。
