ISP在智能领域扮演什么角色

ISP在智能领域扮演什么角色

图像信号处理器 (互联网服务提供商) 原本是多媒体设备中使用的重要芯片, 并在所有需要拍摄图像的领域发挥着重要作用. 随着智能社会生活的进一步完善, ISP也在进入许多新的市场应用领域, 而这些新的智能领域对ISP的性能提出了更高的要求.

在自动驾驶和辅助驾驶领域, 机器视觉对系统的影响非常大. 没有机器视觉的支持, 智能驾驶技术未必成功. ISP负责为自动驾驶系统处理相应的RAW图像,保证自动驾驶技术的可靠性. 然而, 当我们晚上开​​车时, 我们需要保证机器视觉模型能够在弱光等条件下正常工作, 这需要ISP增强图像的夜视和降噪处理性能.
在安全领域, 还需要ISP技术能够应对各种弱光场景. 确保设备的图像质量在弱光条件下不受影响. 这保证了安防监控能够真正做到全时全场景监控一目了然.


在夜视降噪方面, 目前最好的处理是使用神经网络来完成降噪. 由于不同场景下的声音不同, 很难用一个统一的解析公式来完成降噪. 然而, 我们可以使用神经网络收集同一场景内的不同情况进行实时分析. 这样, 当收集的数据量足够大时, 神经网络可以快速准确的完成夜视降噪功能. 所以, 在使用 ISP 的完整系统中, 需要加入一些人工智能的元素,对ISP做相应的调整.
众所周知, 基于神经网络的人工智能即将拥有庞大的网络参数, 而且计算量也很大. 所以, 必须要有相应的模块 (人工智能引擎) 可以高效处理人工智能计算,满足 ISP 的需求.

同时, 需要注意的是,由于ISP对延迟和功耗有要求, AI引擎也要考虑这两个因素.

第一种解决方案是将 ISP 和 AI 引擎集成到同一个 IP 块中. 这样, ISP与AI引擎的耦合度很高. 通过ISP和AI引擎的协同优化, 可以实现更高的延迟和功耗. 另一方面, 我们还可以利用基于卷积神经网络的流水线特征来批量处理像素. 通过深度集成ISP和AI引擎, 系统可以被共同设计以获得更好的延迟.
另一种解决方案是在 ISP 和 AI 引擎之间建立一条数据通路, 同时保证ISP拥有调用AI引擎的优先权. 这样做的好处是当 ISP 没有被激活时, AI引擎也可以被其他应用调用, 使系统更灵活. 当然, 这样做减少了 ISP 和 AI 引擎之间的耦合, 也失去了ISP与AI引擎协同优化的优势.
以上两种方案各有优缺点, 需要根据所开发系统的特点选择合适的方案. 对于涉及智能领域的电子元器件, XT-Shenzhen 拥有大量原厂库存, 包括德州仪器等世界知名半导体公司生产的元器件, 意法半导体, 恩智浦, 和赛灵思.

分享这个帖子