ISP在智能领域扮演什么角色
图像信号处理器 (互联网服务提供商) 原本是多媒体设备中使用的重要芯片, 并在所有需要拍摄图像的领域发挥着重要作用. 随着智能社会生活的进一步完善, ISP也在进入许多新的市场应用领域, 而这些新的智能领域对ISP的性能提出了更高的要求.
在自动驾驶和辅助驾驶领域, 机器视觉对系统的影响非常大. 没有机器视觉的支持, 智能驾驶技术未必成功. ISP负责为自动驾驶系统处理相应的RAW图像,保证自动驾驶技术的可靠性. 然而, 当我们晚上开车时, 我们需要保证机器视觉模型能够在弱光等条件下正常工作, 这需要ISP增强图像的夜视和降噪处理性能.
在安全领域, 还需要ISP技术能够应对各种弱光场景. 确保设备的图像质量在弱光条件下不受影响. 这保证了安防监控能够真正做到全时全场景监控一目了然.
在夜视降噪方面, 目前最好的处理是使用神经网络来完成降噪. 由于不同场景下的声音不同, 很难用一个统一的解析公式来完成降噪. 然而, 我们可以使用神经网络收集同一场景内的不同情况进行实时分析. 这样, 当收集的数据量足够大时, 神经网络可以快速准确的完成夜视降噪功能. 所以, 在使用 ISP 的完整系统中, 需要加入一些人工智能的元素,对ISP做相应的调整.
众所周知, 基于神经网络的人工智能即将拥有庞大的网络参数, 而且计算量也很大. 所以, 必须要有相应的模块 (人工智能引擎) 可以高效处理人工智能计算,满足 ISP 的需求.
同时, 需要注意的是,由于ISP对延迟和功耗有要求, AI引擎也要考虑这两个因素.
第一种解决方案是将 ISP 和 AI 引擎集成到同一个 IP 块中. 这样, ISP与AI引擎的耦合度很高. 通过ISP和AI引擎的协同优化, 可以实现更高的延迟和功耗. 另一方面, 我们还可以利用基于卷积神经网络的流水线特征来批量处理像素. 通过深度集成ISP和AI引擎, 系统可以被共同设计以获得更好的延迟.
另一种解决方案是在 ISP 和 AI 引擎之间建立一条数据通路, 同时保证ISP拥有调用AI引擎的优先权. 这样做的好处是当 ISP 没有被激活时, AI引擎也可以被其他应用调用, 使系统更灵活. 当然, 这样做减少了 ISP 和 AI 引擎之间的耦合, 也失去了ISP与AI引擎协同优化的优势.
以上两种方案各有优缺点, 需要根据所开发系统的特点选择合适的方案. 对于涉及智能领域的电子元器件, XT-Shenzhen 拥有大量原厂库存, 包括德州仪器等世界知名半导体公司生产的元器件, 意法半导体, 恩智浦, 和赛灵思.