首页 / 专利库 / 摄影 / 增距镜 / 用于制造和使用具有通过凝视距离和低功率视线跟踪驱动的自适应透镜的眼镜的系统、方法和设备

用于制造和使用具有通过凝视距离和低功率视线跟踪驱动的自适应透镜的眼镜的系统、方法和设备

阅读:286发布:2024-02-14

专利汇可以提供用于制造和使用具有通过凝视距离和低功率视线跟踪驱动的自适应透镜的眼镜的系统、方法和设备专利检索,专利查询,专利分析的服务。并且本 发明 描述了一种用于矫正近视的光电设备和方法,包括至少一个自适应透镜、电源和眼动仪。眼动仪包括图像 传感器 以及与自适应透镜和图像传感器可操作地连接的处理器。处理器被配置为用于接收来自图像传感器的电 信号 并控制自适应透镜的矫正功率以矫正近视,其中矫正功率取决于使用者的凝视距离和近视 处方 强度。本发明还描述了一种低功耗的眼睛闪烁 跟踪 方法。,下面是用于制造和使用具有通过凝视距离和低功率视线跟踪驱动的自适应透镜的眼镜的系统、方法和设备专利的具体信息内容。

1.一种用于矫正近视的光电设备,包括:
至少一个自适应透镜;
至少一个电源;
眼动仪,所述眼动仪进一步包括:
图像传感器
与所述自适应透镜和所述图像传感器可操作地连接的处理器,其中所述处理器被配置为用于接收来自所述图像传感器的电信号并控制所述自适应透镜的矫正功率以矫正近视,其中所述矫正功率取决于使用者的凝视距离和近视处方强度。
2.根据权利要求1所述的设备,其中所述自适应透镜和所述眼动仪具有的功耗小于
1mw。
3.根据权利要求1所述的设备,其中所述自适应透镜和所述眼动仪具有的功耗小于
100mw。
4.根据权利要求1所述的设备,其中所述处理器被配置为用于根据非递增曲线调节所述矫正功率,其中所述非递增曲线被分别使用公式1/f=1/u+1/f0+1/f_over和公式1/f=1/f0的曲线限定,其中1/f0为所述近视处方强度且为负值,u为所述凝视距离,并且1/f_over为所述使用者指定的用于潜在的过度减少模式的附加的光功率差值且为正值。
5.根据权利要求4所述的设备,其中所述非递增曲线恰好为1/f=1/u+1/f0。
6.根据权利要求4所述的设备,其中所述非递增曲线的形式为1/f=1/u+1/(1/(a*u+b)+f0),其中a和b为配置参数。
7.根据权利要求1所述的设备,其中所述透镜选自由电湿润透镜、液晶透镜和具有流体注入的液态透镜组成的组的一种。
8.根据权利要求1所述的设备,其中通过视线跟踪确定所述凝视距离。
9.根据权利要求8所述的设备,其中所述视线跟踪基于头戴式配置中每个眼睛使用多个LED和多个相机的闪烁跟踪,其中以低于跟踪频率的频率执行自动校准,且在自动校准之后,仅使用1个LED用于照明,并且其中根据哪个LED可能给出最准确的跟踪结果确定有源LED。
10.根据权利要求8所述的设备,其中所述视线跟踪基于头戴式配置中每个眼睛使用1个LED和1个相机的闪烁跟踪,其中所有的眼睛参数是预校准的,并且从所述相机中的二维闪烁坐标到三维闪烁坐标的映射是基于所述预校准的眼睛参数对每个眼睛进行预计算,并且因此用于获得凝视方向信息(旋转度对)。
11.根据权利要求9所述的设备,其中所述视线跟踪基于使用1个LED和2个相机以获得所述闪烁的所述三维坐标,以及然后将连接所述LED和所述闪烁的所述三维坐标的线与球形中心在原点、半径为dc的球面相交叉,并选择更接近所述LED的交叉点作为角膜中心的所述三维坐标并因此获得所述凝视方向信息(旋转角度对),其中原点为待跟踪的眼睛的中心,并且dc为从所述眼睛的所述中心到所述眼睛的所述角膜中心的距离。
12.根据权利要求11所述的设备,其中通过根据球面模型由所述角膜中心的三维坐标的样本回归,估计所述眼球相对于所述相机的中心和从所述中心到所述角膜中心的半径,并且其中随后根据至少一个所述角膜中心的三维坐标,使用数学关系式rc=2dcL*dcg/(dcL+dcg)估计所述角膜的半径rc,其中dcL和dcg分别为角膜中心(c)和所述LED(L)之间的距离以及角膜中心(c)和所述闪烁(g)之间的距离。
13.根据权利要求1所述的设备,其中所述处理器被配置为用于基于两条视线的交叉距离计算凝视距离,其中所述两条视线分别从所述使用者的每个眼睛到所述使用者聚焦的物体。
14.根据权利要求1所述的设备,还包括:
眼镜框,其中所述至少一个自适应透镜、所述至少一个电源和所述眼动仪与所述眼镜框集成在一起。
15.一种使用具有有源像素传感器的图像传感器的光电设备中的眼睛闪烁跟踪的低功耗方法,包括:
使用处理器确定图像传感器像素是否具有比配置的阈值高的曝光量;
通过图像传感器电路报告所述被比较的图像传感器像素;
导通具有阈值电压Vth的MOSFET,其中所述MOSFET在且仅在它的相应像素具有超过阈值的曝光量时导通;以及
使用存器或寄存器电路以保持/拖延所述像素的结果或状态。
16.根据权利要求15所述的方法,其中通过近红外(NIR)照明并使用NIR窄带滤波器产生闪烁。
17.根据权利要求15所述的方法,其中所述MOSFET与光电传感器具有相反的基底类型,其中所述光电传感器为光电二极管
18.根据权利要求17所述的方法,其中使用至少一个NIR LED用于闪烁跟踪,并且其中采用两个邻近的曝光,一个曝光使所述LED关闭,另一个曝光使所述LED开启,其中通过以下的步骤过滤闪烁候选者:
(1)记录在所述LED关闭的曝光期间使其相应的所述MOSFET导通的像素的位置,并将它们标记为假闪烁像素;
(2)记录在所述LED开启的曝光期间使其相应的所述MOSFET导通的像素的位置,并排除那些与步骤(1)的所述假闪烁像素的位置邻近性小于给定的距离阈值的像素;
(3)根据位置邻近性聚集从步骤(2)剩下的任何像素,并报告每个集群的中心作为闪烁。
19.根据权利要求17所述的方法,其中使用附加的晶体管将所述MOSFET的源极电压从Vdd降低到Vdd-Vth,其中Vdd是所述附加的晶体管的正供电电压。
20.根据权利要求17所述的方法,其中使用电阻器或耗尽增强型MOSFET作为像素的Vo(输出电压)的负载。
21.根据权利要求17所述的方法,其中同时访问二维像素阵列中的行上的像素的多个列,其中使用优先编码器或胜者为王电路来每次选择一个开启的像素。
22.根据权利要求15所述的方法,其中使用两个电容来分别保存两个邻近的曝光期间的电荷,其中第一曝光使LED关闭并控制供给第一电容的电荷,并且第二曝光使所述LED开启并控制供给第二电容的电荷,MOSFET的栅极引脚与所述第一电容的阳极相连,并且MOSFET的源极或漏极引脚与所述第二电容的阳极相连,其中所述MOSFET在且仅在LED照明产生的两个电容之间的电压差大于Vth时导通。
23.根据权利要求22所述的方法,其中所述MOSFET为nMOSFET,所述栅极引脚与所述第一电容的所述阳极相连,并且源极引脚与所述第二电容的所述阳极相连。
24.根据权利要求23所述的方法,其中与复位晶体管集成的光电二极管进一步地与两个电荷控制晶体管集成,其中每个所述电荷控制晶体管以控制栅极的形式将浮动扩散与所述光电二极管的n-阱区域相连。
25.根据权利要求22所述的方法,其中所述MOSFET为pMOSFET,所述栅极引脚与所述第二电容的所述阳极相连,并且源极引脚与所述第一电容的所述阳极相连。
26.根据权利要求25所述的方法,其中所述MOSFET的所述输出电压被反馈作为CMOS逻辑电路的输入,所述CMOS逻辑电路的Vss(接地)>Vdd-(k+1)Vth,其中kVth是由LED照明贡献的期望压降且k>=1。
27.一种用于矫正远视的光电设备,包括:
至少一个自适应透镜;
至少一个电源;
眼动仪,所述眼动仪进一步包括:
图像传感器;
与所述自适应透镜和所述图像传感器可操作地连接的处理器,其中所述处理器被配置为用于接收来自所述图像传感器的信号并控制所述自适应透镜的矫正功率以矫正远视,所述矫正功率取决于用户的凝视距离和远视处方强度。
28.根据权利要求27所述的设备,还包括:
眼镜框,其中所述至少一个自适应透镜、所述至少一个电源和所述眼动仪与所述眼镜框集成在一起。

说明书全文

用于制造和使用具有通过凝视距离和低功率视线跟踪驱动

的自适应透镜的眼镜的系统、方法和设备

[0002] 本申请要求于2010年5月29日提交的美国临时专利申请No.61/349,830的权益,其全部公开内容通过引用方式并入本文。本公开内容包括所附的PCT申请附录中的每个参考文献。发明领域
[0003] 本申请一般地涉及光学和电学领域,特别地,涉及用于控制眼镜和其他光学装置中的自适应透镜的装置和方法。
[0004] 背景
[0005] 随着近视成为患者的最常见和普遍的症状,现代的眼镜通常用于矫正患者或使用者的视。在下文中可交换地使用术语“患者”和“使用者”。近视的主要原因是眼睛自身的晶状体(下文中的“眼睛晶状体”)由于过长时间地注视近处物体(可能需要较高的光功率(较厚的形状))而无法似真地回复到较低的光功率(或较薄的形状)。
[0006] 当患者最初被确诊为近视时,典型地在年轻时,他的或她的矫正处方经常为相对低的光功率,例如-1.5屈光度,这意味着患者可在1/1.5m=0.667m=66.7cm远处看清物体。当患者,例如学生,戴着眼镜在教室环境看黑板时,他或她可不用付出太多努力而看见文字。但是,当患者想要阅读课本或者在笔记本中做笔记,并且课本或笔记本位于距患者的眼睛30cm的近距离处时,则利用光学方程,通过眼镜形成的虚拟图像可能在1/(-1.5距离处即20.6cm处而不是在30cm处。因此,患者必须在阅读/书写和看黑板之间反复地改变他的或她的焦距,这可能是使人疲累的,并且在近距离处的调节(或焦距的改变)可能比患者不戴任何眼镜的情况更强或更大。这种经常的焦距改变迫使患者的眼睛晶状体处于甚至比以前更高的光功率,并且在长时间的阅读/书写后,眼睛晶状体可能丧失回复到甚至最初的-1.5屈光度的能力,因为在阅读/书写中,患者实际上聚焦在20.6cm处而不是66.7cm处,并且这可能呈现眼睛的不健康消耗。逐渐地,患者可能需要一副更高处方的眼镜,这可能反过来迫使患者的眼睛晶状体陷入不必要的高光功率的状态。最后,眼睛晶状体的机械性能(人与人之间可不同)可能给晶状体可被压缩的量强加限制,从而稳定使用者的处方强度。但是,可能是以要求比原始处方高得多的处方的巨大代价来稳定处方强度。
[0007] 对于有远视眼(例如,戴上正常的处方眼镜时无法聚焦近处,通常在中年开始影响视力)的使用者,已经使用双焦镜、多焦镜和渐变镜用于阅读目的。双焦镜、多焦镜和渐变镜是受限制的,因为它们要求患者向下看以使用透镜的较低处方部分,这经常是不方便的。而且,眼睛护理专家似乎认为这种类型的透镜是用于远视患者而不是近视患者。
[0008] Roanoke,Virginia的PixelOptics,Inc.已经发布了一种使用自适应透镜的眼镜,其中自适应透镜根据视距改变焦距,但是,他们的眼镜严格地用于远视使用者和/或年长的患者,而本发明针对所有年龄的近视患者。而且,本发明与PixelOptics的自适应透镜的区别在于,给定患者可以用于看见近处物体的处方,焦距相应地进行调节,而已知PixelOptics的眼镜不能执行这样的调节。而且,PixelOptics的眼镜模糊地执行眼睛跟踪,而不是如本发明公开的明确的眼睛跟踪。授予PixelOptics的美国专利No.7,517,083潜在地启示使用眼睛或视线跟踪来控制自适应透镜的焦距。但是,专利没有提供执行眼睛跟踪的足够细节,并且仅仅提及使用多个LED和图像传感器检测瞳孔的边缘其提出基于瞳孔的眼睛跟踪,但没有提供执行具有小的形状因素的瞳孔跟踪的细节,此外,在该专利中提出使用瞳孔间距离确定视距。但是,当患者向侧面看时,瞳孔间距离不完全准确,而使用“视线”交叉方法来计算距离通常更准确。而且,瞳孔间距离的概念默认地假设与两个眼睛之间存在相同的凝视距离,但是这仅在使用者直视前方(例如向上或向下是可以接受的)时是正确的。例如,当向左侧看时,尤其是看近处物体时,左眼与该物体之间的距离比右眼近。视线交叉方法不会遇到这个问题。
[0009] 在美国专利No.7,517,083中还讨论了一种测距仪方法,其通常测量最近的直前方物体,与测量凝视距离不同。根据各种PixelOptics的文献和新闻发布,它的最新发布的眼镜能够“知道你在看哪里”。
[0010] 而且,美国专利No.7,517,083提及使用跟踪系统来“计算近点焦距的范围以便对可调节的和聚焦的近或中间范围聚焦需求进行校正”,这是模糊的描述,且似乎严格地适用于远视使用者的聚焦需求而不是近视使用者的聚焦需求。
[0011] 此外,美国专利No.7,517,083中讨论的类型的眼睛跟踪最常用于矫正视力的非常规畸变如散光,而不是更常见的畸变如近视。实际上,眼睛或视线跟踪是复杂的,是一个应该更清楚和更详细讨论的概念,尤其在小形状因素背景下。
[0012] 眼睛或视线跟踪本身是个复杂的课题,已被研究数十年并且仍然很难实现。关于眼睛或视线跟踪的技术已经取得重大进步,使得光学制造商可以花费大量金钱制造和生产商业跟踪器(或者头戴式眼动仪),其可卖几千美元以上。现有的研究表明头戴式眼动仪相对庞大且消耗大量的能量,可能几百mW(毫瓦)。
[0013] 一篇2009年的标题为“A 200μs Processing Time Smart ImageSensor for an Eye Tracker Using Pixel-Level Analog Image Processing”的论文描述了一种以100mW的峰值耗量直接执行眼睛跟踪的小型CMOS图像传感器。参见Dongsoo Kim,Gunhee Han(Dept.ofElectrical Engineering,Yonsei University,Seoul,Korea),A200μsProcessing Time Smart Image Sensor for an Eye Tracker UsingPixel-Level Analog Image Processing,44 IEEE JOURNAL OFSOLID-STATE CIRCUITS 2581-90(2009年
9月)(第44卷,第9期)。论文讨论了用于眼动仪的低功率设计的当前技术发展平并示出了尝试开发低于mW级别的消耗如何仍然还是关键设计目标。但是,论文没有实现低于mW级别的消耗。上述论文中讨论的设计支持每秒5000次跟踪。因此,如果跟踪的次数降至每秒仅50次跟踪,那么总功率消耗可能降至1mW。
[0014] 一篇2004年的标题为“Ambient-Light-Canceling Camera UsingSubtraction of Frames”的论文建议通过时间调制(开启/关闭)的控制的照明进行两次曝光然后进行减法以消除环境(背景)光干扰。参见美国太空总署的喷气推进实验室(Pasadena,California),Ambient-Light-Canceling Camera Using Subtraction of Frames,NASATECH BRIEFS,NPO-30875(2004 年5 月 ),其 可 从 http://findarticles.com/p/articles/mi_qa3957/is_200405/ai_n9457885/?tag=content;coll.获得。可在软件而不是硬件中进行减法。
[0015] 此外,Zamir Recognition Systems(位于Knoxville,TN和Jerusalem,Israel的公司)提交的美国专利公开No.2008/0203277描述了一种与上面提及的2004年NASA Tech Brief中的上述方法类似的方法,但是在硬件中实现。上面提及的专利公开中概述了两种方法:(i)一种使用时间调制(开启/关闭)的控制的光的方法(与上面提及的2004年NASA TechBrief中的方法类似);以及(ii)另一种使用频率调制(类似于AM/FM无线电调谐)以更易接收某些受控频率的方法。相比于时间调制方法,频率调制方法可能实现起来更加复杂。相机中的每个像素具有电容。时间调制的方法可采用对一个像素阵列中的每个像素的电容进行充电和放电,或者对两个像素阵列进行充电,然后执行减法。
[0016] 美国专利公开No.2008/0203277的图3似乎展示了与充电和放电方法的整体设计逻辑上不一致的静电危害。而且,对于具有两个像素阵列的时间调制方法,提出了在硬件或软件中的信号的减法。甚至对于硬件减法,美国专利公开No.2008/0203277似乎建议使用现有技术的方法,例如典型地使用差分运算放大器作为模拟域中的减法模,以及典型地使用数字化后的运算器作为数字域中的减法模块。
[0017] 发明概述
[0018] 有时,如果处于近视的早期阶段的患者实际上较长时间地观看远处的物体,他们可暂时地恢复看清远处的物体的能力。这可通过肌肉放松并让眼睛晶状体独立地回复到较薄形状而大概实现。因此,如果眼镜被设计为允许肌肉尽可能地放松,同时仍然保持视敏度和足够的视力矫正,那么使用者可能潜在地降低他的或她的近视症状和/或防止处方强度的进一步增加。这可通过采用具有自适应焦距的透镜实现。如果已知患者对于远看的处方强度,那么在眼睛放松的最大水平,这种眼镜可能仅提供必要的矫正以提供正好的视力矫正或者适当和满意水平的视力矫正。这种方式下,患者可能保持他的或她的原始处方而不会不必要地增加它。甚至还可以小幅减小一组透镜的矫正功率以便促使眼睛(朝远处)聚焦,从而可能扭转近视的影响。
[0019] 上面描述的方法可通过采用自适应透镜技术(例如,电湿润、液晶、具有流体注入的液态透镜等)与用于确定“凝视距离”或者患者看向远处的物体时的确切聚焦距离的方法相结合而实现。凝视距离不一定是至最近的前方物体的直前距离,因为使用者可能向侧面看,例如瞥视。
[0020] 关于凝视距离的新发现是,由于人眼感知立体视觉的方式,凝视距离取决于每个眼睛的视线并可能等于这两个视线的交叉距离。
[0021] 上面描述的方法的一种实施方案采用有利地利用闪烁跟踪的方法。在一种实施方案中,提供一种与现有技术的方法相结合时具有免校准的优点的方法。在一种实施方案中,提供一种通过改进有源像素传感器(APS)元件使用小型CMOS图像传感器执行非常低功率的闪烁跟踪的方法。
[0022] 在一种实施方案中,本发明可利用适当地放置在MOSFET晶体管的源极和栅极的一个像素阵列,但是是两个电容,从而帮助闪烁检测。这种方法与上面描述的美国专利公开No.2008/0203277的时间调制方法是有区别的并且还可使用更少的像素。而且,上面描述的美国专利公开No.2008/0203277的时间和频率调制方法被设计为更多地用于普通图像捕捉而不是闪烁检测。相比之下,本发明的两个电容的设计是一种本质上执行减法的新方式,其以低功率执行仅闪烁检测,而不是以高功率检测任何光强的像素。
[0023] 在一种实施方案中,本发明提供一种可以以经济的方式制造的易于实现的低功耗(低于mW级别)的观看装置。
[0024] 在一种实施方案中,提供一种新型的眼镜,其减少患近视的使用者在所有视线距离范围内所需的调节量,从而降低眼疲劳并有希望减慢、稳定或甚至扭转近视的发展。眼镜可适应其透镜的光功率,从而使得相比于佩戴全处方强度眼镜,近视使用者需要减小的调节量。当与全处方强度眼镜相比,减小的调节量可比最大值小但仍为正数。这可帮助保持大脑假设的聚焦和调节之间的隐含关系,从而当患者摘掉他的或她的眼镜时,他/她仍然可以自然地观看,因为大脑知道对于不同的距离,它必须重调眼睛晶状体的焦距。可替换地,减小的调节量可以比最大值稍大,其中使用者不100%地看清,并被引导朝远处聚焦,从而帮助眼睛晶状体恢复到较薄的形状(和较低的功率)并潜在地扭转近视的发展。眼镜可能需要知道视距,视距通过凝视距离确定。本公开提供的眼睛/视线跟踪器基于跟踪来自红外LED照明的眼睛闪烁。眼睛或视线跟踪器可易于实现,使其适合嵌入使用(在眼镜中)并当与现有技术的方法结合时促进免校准的使用。
[0025] 在一种实施方案中,用于眼镜中的视线跟踪器不仅必须易于实现,还需具有非常低的功耗。设计目标是具有低于mW级别的功耗,优选地在跟踪的活跃期。根据本发明的实际设计可用于改进小型CMOS图像传感器中的有源像素传感器(APS),并仅在像素被开启时可消耗明显的功率,且仅在入射光足够强(例如,在像素上捕捉到闪烁)时可开启像素。这种方法支持非常低功率的设计,在活跃期可能低于0.1mW。描述了两种方法,一种更简单易行,另一种更复杂但是对背景光干扰具有更高的免疫性。与现有的方法相比,尤其是与上面讨论的Kim&Han的论文中的方法相比,本发明的系统和方法提供可支持低于mW级别的功耗(甚至在活跃期)的设计。例如,如果使用1μA限流晶体管作为负载,并还使用3V电源,例如如果预计通过视线跟踪器相机捕捉的图像中存在10个闪烁像素,那么本发明的设计中的闪烁检测电路(作为基于闪烁的视线跟踪器的一部分)可能在活跃期只消耗大约30μW。而且,上面的2009年论文讨论的眼睛跟踪器仅仅跟踪瞳孔的中心,而本发明跟踪闪烁,闪烁可以仅为一个像素或一小群像素,从而使得电路设计更简单和更稳健。
[0026] 在一种实施方案中,提供一种眼镜的新型实施方案,其可基于凝视距离调节它们的光功率,以便例如当患近视使用者看向近处时,减少这类使用者所需的调节量。不论使用者看向远处还是近处物体,眼镜允许使用者尽可能地放松他的或她的眼睛,这可帮助减慢并且甚至可能扭转近视的发展。可通过使用例如自适应透镜使由眼镜执行的光学调节可行,并且自适应透镜转而可以多种方式实现:例如,液态电湿润、液晶和具有流体注入的液态透镜。
[0027] 在一种实施方案中,提供一种用于执行用于凝视距离估计的视线跟踪的方法。该方法可能仅要求闪烁跟踪,这可能更易于实现。该方法还可通过将其或其步骤与现有技术的自动校准方法或来自这种现有技术的自动校准方法的步骤相结合而实现免校准。该方法还可促进低复杂性实现,例如通过使用1个LED照明和两个或多个相机。
[0028] 在一种实施方案中,提供一种超低功率(例如低于mW级别或毫瓦级别)的方法,其例如通过使用小型CMOS(互补金属化物半导体)图像传感器执行相机中的闪烁跟踪,其中CMOS图像传感器还可具有改进的有源像素传感器(APS)。改进的APS可能消耗非常低的功率,因为仅在像素是潜在的闪烁像素(例如,具有足够强的光强度)时开启像素(并消耗明显的功率)。近红外窄带滤波器可被用作提高对背景光干扰的免疫性的优选方法。与普通图像捕捉的速率相比,还可能减少曝光时间,这可能促进LED照明的仅闪烁检测和低功率消耗。换句话说,LED可以不必总是“开启”。在一种实施方案中,还可提供上面描述的方法的变型形式,其通过在APS中使用两个电容用于两次曝光以及使用改进的电压供应以匹配APS的输出信号,来支持对背景光干扰的更强免疫性。在一种实施方案中,还可提供上面描述的方法的变型形式,其可实现先前描述的方法的类似目标(例如,对背景光具有更强的免疫性),但是,不使用两个电容和/或改进的电压供应。
[0029] 附图简述
[0030] 实施方案以实例的方式示出,并且不限于附图中的示图,其中相似的标号表示相似的元件。
[0031] 图1示出根据本发明实施方案的与具有自适应透镜的眼镜联合使用的硬件设备的实例,其中自适应透镜由凝视距离和低功率视线跟踪驱动。
[0032] 图2示出根据本发明实施方案的各种调节减小模式的曲线图。
[0033] 图3示出根据本发明实施方案的眼睛或视线跟踪中的旋转度对(方位角α和高度角β)的图解。
[0034] 图4示出传统的3-晶体管有源像素传感器(3T-APS)。
[0035] 图5示出根据本发明实施方案的具有限流器的改进的3T-APS。
[0036] 图6示出根据本发明实施方案的具有共享晶体管的改进的3T-APS。
[0037] 图7示出传统的4-晶体管APS(4T-APS)。
[0038] 图8示出根据本发明实施方案的具有限流器和共享晶体管的改进的4T-APS。
[0039] 图9示出根据本发明实施方案的通过N-基底光电二极管执行低功率闪烁检测的改进的3T-APS。
[0040] 图10示出根据本发明实施方案的基于两次曝光之间的电压差的两电容APS。
[0041] 图11示出根据本发明实施方案的流线型的布局,其中光电二极管与其他MOSFET无缝地集成。
[0042] 图12示出根据本发明实施方案的具有自适应透镜和视线跟踪的一副眼镜的实例。
[0043] 发明详述和附图
[0044] 本说明书中提及的“一种实施方案”或“实施方案”意味着结合实施方案描述的特定的特性、结构或特征包含在本发明的至少一种实施方案中。在说明书的多个地方出现的短语“在一种实施方案中”不一定全部指相同的实施方案,单独的或可替换的实施方案也不相互排除其他实施方案。而且,描述的各种特性可以被一些实施方案示出而不被其他实施方案示出。类似地,描述的各种需求可能是一些实施方案的需求而不是其他实施方案的需求。
[0045] 图1示出根据本发明实施方案的与具有自适应透镜的眼镜联合使用的硬件设备的实例,其中自适应透镜由凝视距离和低功率视线跟踪驱动。虽然图1示出嵌入式装置的多个组件,但其并不旨在代表使组件相互连接的任何特定的结构或方式。一些实施方案可使用具有比图1中示出的组件更少或更多的组件的其他系统。
[0046] 在图1中,数据处理系统100包括使微处理器103和存储器108互连的交互连接102(例如,总线和系统核心逻辑)。在图1的实例中,微处理器103与高速缓存104相连。
[0047] 交互连接102将微处理器103和存储器108互连在一起,也将它们与显示控制器、显示装置107、传感器109互连并且通过输入/输出控制器106与诸如输入/输出(I/O)装置105的外围设备互连。
[0048] 传感器109可包括CMOS或CCD图像传感器。传感器109还可包括例如加速度计以确定装置的方向和/或检测装置的抖动,或者作为另一个实例,还可包括音频录音设备以记录使用者附近的声音,或者作为又一个实例,还可包括光学装置以测量、观察或记录视觉数据。
[0049] 典型的I/O装置包括鼠标键盘调制解调器、网络接口打印机、扫描器、摄像机、触摸板、麦克和其他本领域熟知的装置。在一些实施方案中,当数据处理系统服务器系统时,I/O装置的一些,例如打印机、扫描器、鼠标和/或键盘是可选的。
[0050] 交互连接102可包括通过各种网桥、控制器和/或适配器彼此连接的一个或多个总线。在一种实施方案中,I/O控制器106包括用于控制USB(通用串行总线)外围设备的USB适配器,和/或用于控制IEEE-1394外围设备的IEEE-1394总线适配器。
[0051] 存储器108可包括ROM(只读存储器)、挥发性RAM(随机存取存储器)和非挥发性存储器如硬盘驱动器、闪存等。
[0052] 自适应透镜技术
[0053] 如上所述,近视患者看近处物体时忍受这样的事实:相比于不戴眼睛时,当戴上全处方眼镜时,他们的眼睛晶状体必须更多地调节,从而迫使他们的眼睛晶状体保持在不必要地比以前更高的光功率。随着长期使用,眼睛晶状体将可能无法恢复到他们的原始形状,因此增加患者的近视处方。即使不戴眼镜,太长时间的近距离阅读似乎不是好的用眼习惯。戴着眼镜,问题变得更加严重。
[0054] 因此,提供一种新型的眼镜,其调节它的焦距或光功率以便减少近视患者在看大多数实际距离的物体时所需的调节量。用于眼镜中的这种自适应透镜的关键要求是紧凑性,并且这种要求通常排除多数相机中使用的多焦组合透镜,其通常太大并要求活动部件。但是,光学技术的最近发展已经使得自适应透镜成为现实。存在几种类型的自适应透镜设计,例如,具有电湿润的液态透镜,液晶透镜和具有流体注入的透镜。关于电湿润,参见Liquid Lens Technology:Principle ofElectrowetting based Lenses and Applications to Imaging,B.Berge,Varioptic,Proceedings of the MEMS 2005 conference,1月30日-2月3日2005-02-05,其公开内容通过引用方式并入本文。关于液晶透镜,参见美国专利No.7,517,083,其公开内容通过引用方式并入本文。关于具有流体注入的透镜,参见Liquid Lens Innovations;Takes InitialForm in Camera Phones,K.J.Kabza,2006年2月9日,其公开内容通过引用方式并入本文。只要给定的自适应透镜技术满足度量的特定需求如形状因子、焦距的范围和功耗,它们将适合用于本发明提供的眼镜。而且,可将自适应透镜与固定功率透镜结合使用(例如,将两个透镜粘贴在一起)以便实现期望的光学距离和/或提高成本效率。
[0055] 调节减少的模式
[0056] 图2示出根据本发明实施方案的各种调节减少模式的曲线图。曲线图200包括部分减少模式图202、全部减少模式图204、过度减少模式图206和传统透镜图208,其中y轴是矫正透镜的光功率,以屈光度为单位,x轴是真实物体距离,以米为单位,由变量“u”表示。
[0057] 所需的调节的量的减少水平可以具有多种模式。在第一种模式(全部减少模式-通过全部减少模式图204表示)中,减少量是全部的,例如,患者的眼睛晶状体完全放松,在看远处或近处物体时从不必调节。例如,如果患者的近视处方为-1.5屈光度,使用全部减少模式,眼镜中的自适应透镜可总是在1/1.5=0.667m=66.7cm的距离处形成感兴趣的物体的虚拟图像。应注意的是,如果感兴趣的物体的真实距离小于66.7cm,自适应透镜必须从凹形变为凸形,以便虚拟图像的距离仍然为66.7cm。因此,在全部减少模式中,眼睛晶状体总是保持在它们的最薄形状和最低光功率(就有关的当前近视处方而言),这可帮助患者减慢或防止近视的进一步发展。再通过全部减少模式图204说明全部减少模式。应注意的是,对于全部减少模式图204,当真实物体距离u=66.7cm(x轴)时,全部减少模式的自适应透镜的光功率将为0(y轴),因为具有-1.5屈光度处方的使用者可以不戴眼镜而清楚地看见66.7cm远处。如果u进一步减小,那么自适应透镜将从负光功率变为正光功率。
[0058] 在第二种模式(部分减少模式-通过部分减少模式图202表示)中,减少量比全部模式小,但是相比于佩戴全处方眼镜,减少量仍为正数。可以为虚拟图像距离设置下限。例如,如果使用者处方为-1.5屈光度,并且如果我们设置所述下限为30cm,那么自适应透镜将确保不论感兴趣的物体多近,虚拟图像都形成在30cm处或更远处。真实物体距离和虚拟图像距离(其控制自适应透镜的光功率)之间的确切映射可呈现任意函数形式,只要虚拟图像距离是真实物体距离的非递增函数并在|f0|处开始,其中,f0为全处方的自适应透镜的焦距,例如,近视处方的屈光度的倒数。在实际使用中,当真实物体距离不比预设的实际下阈值如10cm小时,我们还可以指定下限。可替换地,我们可以相对于真实物体距离直接指定自适应透镜的光功率,部分减少模式中的这种函数将通常为直线1/f0和曲线1/f=
1/u+1/f0之间的非递增函数,其中,u是真实物体距离(x轴)。应注意的是,尽管这个函数优选地应相对于真实物体距离非递增,并且虚拟图像距离的函数应相对于真实物体距离非递增,但是对这些函数所做的破坏他们的非递增或非递减性质的微小修改应被认为是不重要的仿效。部分减少模式图202说明部分减少模式,其中虚拟图像距离v被定义为u的函数:v=1/(20*u+1.5)-0.667。项-0.667规定v的最大值,1.5(屈光度)用于确保对于任意>0的u,满足v<0的条件(因为虚拟图像与矫正透镜位于相同侧)。但是,这些仅为示意性的实例,还可使用其他函数。
[0059] 部分减少模式对于保持大脑假设的聚焦和调节之间的隐含关系也可以是重要的。当我们看近处物体时,我们具有更强的聚焦,因为我们的眼睛向内旋转以保持适当的立体视觉。通常,对于视力好的人们(甚至是那些患近视但是戴传统眼镜的人),我们的眼睛晶状体进一步地调节(例如,转换成更高的光功率)以聚焦在近处物体。但是,在全部减少模式中,眼睛晶状体从不需要改变焦距。虽然在眼睛晶状体总是处于充分放松模式的意义上来讲,它可能是有利的,但是不再存在隐含的聚焦/调节关系。随着持久的使用,大脑可能丧失或极大地削弱这种隐含的关系,并且当患者摘掉他的或她的眼镜时,他/她可能发现难以看清不同距离处的物体,即使当这些物体在他的/她的清晰视觉距离内时,因为在不同的距离处,眼睛具有不同的聚焦,但是大脑可能不触发促使改变焦距。因此,部分减少模式的目的在于解决这个潜在的问题。另一方面,佩戴传统眼镜的近视使用者与不戴眼镜的使用者相比已经具有不同的聚焦/调节关系,因此似乎任何单调的关系/映射可能有效,只要存在一种这样的在调节中具有不容忽视(就有关的大脑而言)的范围的关系/映射。这表明在选择虚拟图像距离或光功率相对于真实物体距离的函数(其控制这种映射)时,存在相对高的灵活性。
[0060] 在第三种模式(过度减少模式-通过过度减少模式图206表示)中,减少量比全部量稍多,从而使得眼睛不能100%地看清感兴趣的物体,目的是可促使眼睛晶状体向远距离聚焦以便看清。如果这种促使被成功地触发,甚至可扭转近视的发展。由过度减少模式图206可以看出,对于所有的距离,矫正功率都减少0.25屈光度。但是,也可使用其他函数。
[0061] 在上述任何一种模式中,可增加人体工学特性以促进好的用眼习惯和健康。例如,如果真实物体距离比预定的阈值小并可选地持续比预定时间量更长的时间,那么眼镜可例如发出嘟嘟声以提示使用者他/她观看物体的距离太近。
[0062] 对于远视使用者,例如,那些可看清远处但难以聚焦在近处物体的人,可使用类似的但稍微不同的模式。例如,自适应透镜可调节其光功率以便总是在最近的清晰视觉距离处有效地形成图像,例如,对于+2屈光度的处方为50cm。但是,这将保持使用者总是在近视觉焦距,即使在看远处物体时,而这可能给眼睛施加压力。可替换地,自适应透镜可提供正功率以便当观看比最近清晰视觉距离近的物体时,在最近清晰视觉距离处有效地形成图像,但是当观看比最近清晰视觉距离远的物体时,自适应透镜将具有0功率以便患者使用他的/她的自然视觉和焦距。与近视情况相同,有效图像距离可保持不变,或者对于不同的真实物体距离可稍微改变,以便大脑保持聚焦和调节之间的一些隐含关系。
[0063] 传统透镜图208显示例如由传统透镜呈现的恒定的光功率(此处,示为-1.5屈光度)。
[0064] 凝视距离和视线跟踪
[0065] 确定真实物体距离,例如,感兴趣的物体的距离或视距,不是无关紧要的工作。它不总是至最近的前方物体的直前距离,因为使用者总是可以向侧面看,例如,通过瞥视。因此,如果使用具有自动聚焦能力(其经常通过调谐成在特定区域如直前方中产生最清晰边缘的焦距而工作)的相机并将它安装在眼镜的前方,它在使用者瞥视时将不工作。在最坏情况的场景中,当在小视角内存在很多不同距离处的物体时,视距在瞥视角度稍微改变时可显著地改变。类似地,测距仪装置可能具有相同的问题,其中测距仪装置发射光或声波的小脉冲并监测反射时间以确定视距。
[0066] 人眼可以以立体的方式感知视觉。眼睛在视网膜的中央凹区内具有最高的视敏度,并感知物体的深层次细节,两只眼睛均可以经常在某种程度上旋转以便物体在中央凹区中形成图像。同时,为了避免在感兴趣的物体上聚焦时形成重影,眼睛的旋转必须非常精确以便物体的两个中央凹图像在立体视觉中几乎完全地重叠。因此,可通过两只眼睛的视线确定视距。由于立体视觉的观看需求,两条线可在感兴趣的物体处交叉。交叉点代表感兴趣的物体的三维坐标(或者更确切地,使用者聚焦的物体的部分)。实际上,测量误差和不完美的立体眼睛校准都可导致两个检测的视线不交叉。为了解决这些误差,可使用一些形式的近似。例如,取代建模为抽象的细线,可将两个视线扩展为具有小半径的光线或者具有小立体角的光线(当它向远处延伸时,覆盖更多的区域),并将产生的交叉区域的中心(例如,它的几何中心)视为物体的三维坐标。也可使用其他近似方法。
[0067] 一旦确定感兴趣的物体的三维坐标,则可容易地确定每个眼睛的视距,其中,基于两个眼球的中心校准三维坐标系
[0068] 确定视线的过程称为视线跟踪,其与眼睛跟踪有关。两个术语有时可交换,区别是眼睛跟踪通常涉及确定相机图像中的眼睛的存在状况,并且还涉及跟踪眼睛特性如瞳孔和虹膜以便确定瞳孔的中心。而视线跟踪通常涉及确定二维或三维坐标系中的视线,但是视线跟踪经常使用眼睛跟踪的结果以帮助确定视线。而且,由于中央凹区(存在最多的视觉注意)与光轴和视网膜的交叉点稍微不同,因此视线和凝视线之间甚至存在不同,其中前者与中央凹中心或视轴相关联,而后者与光轴相关联。实际上,我们可以仅直接测量凝视线,并且如果光轴与视轴之间的角度偏差已知,则可用来以简单的几何方式获得视线。可为每个患者测量这个值,或者作为更简单的实现,基于总体平均值。视线跟踪的更多细节可见于例如出版物In the Eye of theBeholder:A Survey of Models for Eyes and Gaze,Dan Witzner Hansen和Qiang Ji,IEEE Transactions on Pattern Analysis and MachineIntelligence,第32卷,No.3,第478-500页,2010年3月中,其公开内容通过引用方式并入本文。
[0069] 数十年来,眼睛跟踪和视线跟踪一直是重要的研究课题,并且,由于非常不同的背景照明条件、眼睛之间的不同、头部运动和来自眼镜的作为干扰的反射(仅举几例可变因素或障碍),眼睛跟踪和视线跟踪领域仍然是重要的。
[0070] 有趣地是,当将视线跟踪器嵌入一副眼镜中时,可避免或极大地减少这些障碍中的很多种。例如,来自眼镜的反射不再是问题,因为可将视线跟踪器放置在眼镜的内部。受控照明(通常以近红外LED照明的形式)通常用于室内眼睛/视线跟踪,但是对室外眼睛/视线跟踪无效,因为来自室外环境的背景光干扰实在太强。当将LED嵌入眼镜中时,可将LED放置在距离眼睛更近的位置,从而促进相对于背景照明的更高SNR(信噪比)和/或更低功耗(更近距离的更低功率的相同照明效果)。这种优点被很多头戴式眼睛/视线跟踪器利用。另外,可使用近红外窄带滤波器,代替使用通用红外通过滤波器(在图像捕捉期间通过大部分红外光)来阻挡大部分的背景光干扰,并且如果所述窄带被设计为与近红外LED产生的相同窄带光相匹配,对于现实实现,它可以以大约50∶1(相比于没有红外滤波器)的比例或大约8∶1(相比于通用红外滤波器)的比例将LED信号放大为更大的信噪比。在描述本发明提出的改进的小型CMOS图像传感器的部分中将给出关于这种技术的更多细节。应注意的是,通常使用近红外光,因为它对于眼睛是不可见的并且不会导致瞳孔在其照明下收缩,并且它可被多数CCD(电荷耦合器件)和CMOS图像传感器捕捉,因为它们大部分使用光电传感器,硅基光电传感器制造起来相对便宜并且可对高达约1100nm波长的红外光敏感,但超过1000nm后敏感度快速降至零。其他红外光波长也可用于眼睛/视线跟踪,前提是图像传感器技术可用来有效地捕捉这些波长。
[0071] 仅基于闪烁的视线跟踪
[0072] 为了支持眼镜中的视线跟踪,视线跟踪器必须易于实现且具有低计算复杂性和低功率以便促进小尺寸实现。因此,眼睛闪烁可用于视线跟踪。点光源的有源照明(其可以是红外或可见光)下的眼睛将产生多个反射,其中第一反射发生在角膜的外表面上,并且相应产生的点图像称作第一Purkinje图像,其经常被称作闪烁。其他反射产生第二、第三和第四Purkinje图像,但是第一Purkinje图像是最亮的,因此是最适合用于低成本、低复杂性实现的眼睛/视线跟踪目的的图像。
[0073] 虽然多数视线跟踪算法似乎集中于将眼睛闪烁与瞳孔跟踪相结合以估计视线,但本发明提供的方法利用眼睛闪烁。因为闪烁是点图像,在图像传感器中它可能更容易被检测,因为它通常相当于一个图像传感器像素或一小群像素。在后面的部分中,本发明将描述如何以低功率设计检测与闪烁相对应的像素。低功耗是重要的,因为跟踪眼睛和视线的相机必须是眼镜的一部分,并且如果设计目标是保持眼镜尽可能地紧凑,那么可能存在非常小的空间用于将额外的电池和/或电源供应集成到眼镜中。最小化眼镜的散热也是目标,因为患者必须将眼镜戴在其头上,并且舒适和安全性也是关键因素。
[0074] 当眼睛旋转以看见不同物体时,每个眼睛围绕眼球的中心旋转,并且闪烁是通过角膜形成的虚拟图像,而角膜通常被建模为球形表面。如果我们使用眼球的中心作为三维坐标系的原点(每个眼睛具有它自己的三维系统,但是通过提前测量所谓的瞳孔间的距离,它们可容易地相互转换),而且如果我们知道LED的三维坐标为(xL,yL,zL),角膜的曲率(即,半径)为rc,从原点到角膜的球形中心的距离为dc,那么给定眼睛在方位轴中的旋转角度(水平角)α和高度方向的旋转角度(倾斜角)β,我们可预知闪烁的三维坐标。步骤如下:首先,我们基于极线几何xc=dccos(α)cos(β),yc=dcsin(α)cos(β),zc=dcsin(β)获得角膜中心的三维坐标(xc,yc,zc);接着,我们在LED(xL,yL,zL)和角膜中心(xc,yc,zc)之间形成笔直的三维线;如果我们定义dL=ηrc为LED和半径为rc的角膜的球形表面之间的距离,并定义dg为虚拟闪烁图像和角膜球形表面之间沿着三维线的距离,然后根据球面镜的光学方程,虚拟闪烁图像必须满足方程dg=ηrc/(2η+1)。由于可容易地计算dL作为(xc,yc,zc)和(xL,yL,zL)之间的欧式距离(表示为dcL)减去rc,也可容易地获得dg,并且由于闪烁必须落在三维线上,所以也可使用简单的三维几何获得给定的dg的三维坐标。
[0075] 图3示出根据本发明实施方案的眼睛或视线跟踪中的旋转角度对(方位角α和高度角β)的图解。图形300示出眼球中心(原点)、旋转的角膜中心、不旋转的角膜中心、LED和闪烁之间的三维关系。应注意的是,原点和角膜中心之间的距离dc对于相同的使用者总是恒定的,只要眼睛没有发生重大的物理改变。文字“闪烁”下面的点可以是虚拟闪烁图像。上面讨论的光学方程也应用于图形300。
[0076] 相反地,如果我们知道所有其他的参数,包括闪烁的三维坐标,并且想要计算两个旋转角,我们可以通过标绘从LED到闪烁的三维线而实现,并且角膜的球形中心则必须在这条线上(因而具有1个自由度)。令中心的三维坐标表示为(xc,yc,zc),那么同时,它必2 2 2 2
须在中心为原点、半径为dc、方程为xc+yc+zc =dc 的球形表面上。令t表示从LED沿着三维线指向眼睛的距离,因为(xc,yc,zc)也落在这条线上,我们可以推断,可使用参数t以
2 2 2 2
一阶线性形式表示线上包括(xc,yc,zc)在内的所有点。因此,方程xc+yc+zc =dc 变成t的二次方程式,其可容易地求解。应注意的是,二次方程式的2个根中只有1个是有效的,因为由t指定的线只可以在眼睛的前方而不能在眼睛的后方与球形表面交叉。使用t的有效根,然后我们可以获得xc、yc、zc。然后,我们可以根据极线几何的定义容易地获得旋转角度对(方位角α和高度角β)。
[0077] 如果我们使用已知三维坐标和焦距的2个相机,那么也可以与立体视觉类似的方式获得闪烁的三维坐标。
[0078] 上面的方法假设很多眼睛的特定参数是已知的,这需要校准。ACalihration-Free Gaze Tracking Technique,Sheng-Wen Shih等,International Conference on Pattern Recognition,第201-204页,2000中描述了一种免校准的视线跟踪方法,其公开内容以引用方式并入本文。这种方法可用于使用2个LED和2个相机获得这些参数中的一些,假设LED和相机之间的点的相对三维坐标是已知的(这相对容易满足,因为他们很可能被稳固地安装在眼镜上,从而允许制造期间的简单的预校准)。免校准的方法可重新获得角膜中心相对于相机的三维坐标,然后也可确定闪烁的三维坐标。虽然这种方法不能直接地重新获得dc和rc,但是如果要求使用者旋转他的/她的眼睛成各种角度对,很明显地,角膜中心的三维坐标的轨迹将遵循半径为dc、中心为眼睛的中心的球形表面。因此,通过收集足够的角膜中心的三维坐标的样本,可实现球形表面上的回归,因此可相对于相机重新获得dc和眼睛的中心的三维坐标,然后还可容易地将所有三维坐标转换成使用眼睛的中心为原点,2
如上面的段落和图3中的情况。为了重新获得rc,只需认识到dL=ηrc=sqrt((xc-xL)+
2 2
(yc-yL)+(zc-zL))-rc=dcL-rc,其中,(xL,yL,zL)为已知的LED的三维坐标,这意味着dcL也是已知的。因此η可以被表示为dcL/rc-1(rc的函数),并且dg=ηrc/(2η+1)=rc-dcg,其中dcg是也已知的角膜中心和闪烁之间的距离。然后,我们可以插入η关于rc的表达式,并求解关于未知变量rc的方程dg=ηrc/(2η+1)=rc-dcg。更具体地,待求解的方程简化为(dcL+dcg)*rc-2dcL*dcg=0,或者简化为rc=2dcL*dcg/(dcL+dcg)。可使用多种测量方法来估算rc,例如通过平均,以使得rc的估算更准确。因为dc和rc为使用者的特定参数并且不变,因此对于每个使用者,只需进行一次确定。因此,结合上面描述的过程,免校准的方法也可重新获得LED和眼球中心之间的相对三维位置。因此,可使用Sheng-Wen Shih等在A Calibration-FreeGaze Tracking Technique中描述的算法,结合上面描述的过程,在初次使用时自动校准眼镜,然后可单独使用上述算法重新估算角膜中心相对于相机的三维坐标,由此补偿眼镜滑移,但是是以与跟踪频率相比较低的频率以节省再校准过程中的LED功率和计算功率。然后,一旦滑移被补偿,仅需要1个LED和2个相机来生成闪烁的三维坐标。此外,如果其他LED被期望用于提供更清楚的闪烁,那么跟踪器可切换到不同的LED(但是仍然每次使用1个LED)。这可能是因为,有时眼睛旋转那么多,使得闪烁事实上不从特定的照明方向形成,因此具有2个LED且他们之间可智能的切换将可能提供更好的结果。尽管Sheng-Wen Shih等在A Calibration-Free Gaze Tracking Technique中描述的算法已经实现视线跟踪且免校准,但是它需要分析眼睛瞳孔图像以便实现视线跟踪,而这样的分析对于眼镜上的嵌入式电路而言可能太复杂而难以处理。因此,通过利用Sheng-Wen Shih等描述的算法,结合上述过程,自动校准眼睛参数,然后仅使用Sheng-Wen Shih等描述的算法来补偿滑移,使用本发明中的上面描述的步骤,视线跟踪变得更简单。可替换地,可在确定近视处方时,测量使用者的眼睛参数,特别地,dc和rc。应注意的是,每个眼睛使用2个LED。对于两个眼睛,可能需要多达4个LED,但是可以通过将共享的LED和相机放置在两个眼睛之间的中心附近而共享1个LED和甚至1个相机,因此对于每个使用者,可能将总数减少至3个LED和3个相机。
[0079] 图12示出一副具有自适应透镜和视线跟踪的眼镜,每个眼睛有2个LED和2个相机。如图12所示,电池、以及由闪烁信息计算凝视距离的计算单元可放置在美学上可接受的位置,例如,眼镜的中间。可通过物理电线连接LED、相机、电池和计算单元,其中,物理电线与眼镜遵循相同的轮廓线。可替换地,也可沿着眼镜框的边缘或者在眼镜的边栏上放置电池和/或计算单元。LED和相机的位置仅是示例性的,可以存在其他能产生更好的视线跟踪性能的位置。对于低功率闪烁检测,图12中的相机应使用改进的小型CMOS APS,这些将在下面的部分中详细描述。
[0080] 1个LED和2个相机的配置实际上是轻微地超定的系统。一旦使用附录中的算法自动地校准或预校准眼镜中的视线跟踪器,对于每个唯一的旋转角度对,闪烁具有唯一的三维坐标,其可映射为相机的图像传感器平面上的唯一的二维坐标。因此,在旋转角度对和二维相机闪烁坐标之间存在一对一的映射,因此,给定二维相机闪烁坐标,我们可以将它映射回三维坐标和旋转角度对,从而获得视线跟踪信息。在自动校准或预校准之后,将只需要1个LED和1个相机。不幸地,反向映射(从二维到三维或旋转角度对)可能是非常复杂的并且似乎不具有封闭形式方程,因此可能必须通过一些形式的迭代插值,例如,顿近似来近似地求解,或者使用足够高的采样密度预计算从旋转角度到二维闪烁坐标的完整的正向映射以便可能具有闪烁的相机图像传感器阵列中的每个像素具有至少一个与之相对应的旋转角度对。然后,可通过计算每个这样的像素中的平均旋转角度对来构造反向映射。
[0081] 近似解可能增加每次跟踪的计算复杂性,而预计算可为计算量很大的且不应每次校准都进行。如果目标是节省硬件成本,那么可以使用预校准、反向映射的预计算和具有1个相机的1个LED,但是这种配置不能补偿眼镜的滑移。如果使用自动校准,那么可能无论如何都需要2个LED和2个相机,并且当2个相机能给出低复杂性的解决方案并能提供以滑移为目的的简单的再校准时,使用1个相机且在滑移期间必须重做反向映射的预计算将似乎不那么有用。
[0082] 因此,用于视线跟踪器的优选实施方案是在初始使用时使用2个LED和2个相机用于自动校准,然后切换为1个LED和2个相机用于基于闪烁的视线跟踪,其中可基于哪个LED最可能产生更可见的闪烁图像来改变有源LED,而且其中可以以比跟踪频率更低的频率执行重校准以补偿滑移。可替换地,如果预计滑移较小,那么第二实施方案包括具有预校准以及二维闪烁坐标和旋转角度对之间的反向映射的预计算的1个LED和1个相机。
[0083] 一旦获得每个眼睛的旋转角度对,可获得两个视线。然后,可使用视轴与光轴之间的角度(或者被预校准,或者基于总体平均值)来将凝视线转换成视线。然后,视线的交叉点表示感兴趣的物体的三维坐标,然后可容易地获得每个眼睛的视距,然后可根据上面描述的三种调节减少模式中的一种使用视距来驱动自适应透镜的光功率。
[0084] 当眨眼睛时,如果眼皮还没有完全闭合且闪烁对于相机仍然是可见的(或者在优选实施方案中对两个相机均是可见的),那么上面的方法仍然可以检测闪烁并获得视线跟踪信息。如果眼皮充分闭合,闪烁将是不可见的,视线跟踪器将不能获得跟踪信息。但是,如果眼睛被闭合或者被充分闭合(这意味着眼睛不能看见任何有用的东西),那么视线信息是本质上不相干的。在这种情况下,视线跟踪器可使用最后获知的视线跟踪信息,而且事实上,无论何时视线跟踪器由于某些原因(例如没有闪烁被检测到)而无法获得跟踪信息,它都可使用最后获知的相应信息。将在下面的公开文本中描述的闪烁检测电路可通知视线跟踪器,在图像捕捉期间没有检测到闪烁。
[0085] 用于小型CMOS图像传感器的低功率闪烁跟踪
[0086] 适合用于眼镜中的视线跟踪器必须不仅易于实现和具有低计算复杂性,还需消耗低功率,因为在眼镜框中只有非常小的空间用于电池。考虑到自适应透镜可能已经消耗电池容量的显著的份额,非常优选的是,视线跟踪器消耗非常低的功率,例如,在低于mW级别的范围内。
[0087] 在视线跟踪器中主要有4个消耗功率的部分:(i)LED照明,(ii)图像捕捉,(iii)眼睛特性检测,和(iv)视线计算。在上面描述的具有2个LED和2个相机的优选实施方案中的视线计算包含非常小的计算量,并且主要要求从2个相机获得闪烁的三维坐标、求解二次方程式、和随后获得旋转角度对、视线和凝视线、以及每个眼睛的凝视距离。每次跟踪可能花费少于100个浮点计算周期。因此,预计到视线计算消耗非常小的功率。因此前三个因素更重要,是以下描述的主题。
[0088] 近红外LED典型地消耗几个到几十mW,并且发射(例如,以近红外光子形式)它们消耗的功率的一小部分。这个部分可以是例如1/3,这个值将用做说明功耗的实例。对于这个部分的使用的实例,参见数据表MOLD LED Lamp L880 Series:Infrared LED Lamp.Marubeni America Corporation,其通过引用方式并入本文。使用优选的2个LED、2个相机的配置,我们可在自动校准之后使用1个LED和2个相机,这将导致节省大约一半的LED功率。
[0089] CCD和CMOS图像传感器均对近红外光敏感。但是,由于CMOS传感器通常具有更低的功耗并且也支持随机存取,所以对于本发明,CMOS传感器是图像传感器的优选选择。而且,CMOS使图像捕捉与智能信号处理的结合更容易,因为可在相同的物理过程中制造光电传感器和CMOS信号处理元件。这称作小型CMOS图像传感器,并属于快速发展领域。下面的部分描述可以以非常低的功率实现闪烁检测的小型CMOS图像传感器中的改进的有源像素传感器(APS)。
[0090] 具有PMOSFET源跟随器的改进APS
[0091] 首先,注意到,在传统的眼睛/视线跟踪中,捕捉并进一步分析整个眼睛图像,其中眼睛图像通常为灰度图或彩色图。在我们的仅基于闪烁的视线跟踪方法中,我们仅需要检测闪烁,其中闪烁通常比其他眼睛特性更明亮。这意味着,我们可减少图像捕捉的曝光时间以便闪烁仍然会强烈地出现,而其他特性将通常作为暗像素或接近暗像素而出现。这种曝光时间的减少可节省LED功率,因为我们不必花费额外的曝光时间来捕捉我们不想要在我们的方法中使用的眼睛特性。
[0092] 其次,CMOS图像传感器电路中的多数功耗是由于流过监测晶体管的有效电流造成,其中通过光电传感器(典型地,光电二极管)的电压部分地控制该电流,而且该电压根据入射光的量改变。
[0093] 图4示出传统的3-晶体管有源像素传感器(3T-APS)。APS 400是现有技术已知的且包括复位晶体管402、光电二极管403、源跟随器晶体管404、光电二极管电压405、选择晶体管406、供电电压407、选择信号408和输出电压409。CMOS图像传感器中的基本构建块单元为有源像素传感器(APS),其中光电传感器是反向偏置的(如光电二极管403所示,其中光电二极管吸收以一系列的三个箭头示出的光)并经常被充电到初始的正电压(例如,如通过供电电压407反映的Vdd),然后通过曝光降低电压,然后使用降低的电压控制源跟随器晶体管404的栅极并因此控制流过源跟随器晶体管404的电流。光电二极管电压405(VPD)在复位过程中被初始化为Vdd和Vth的差值。此处,Vth是晶体管(例如,MOSFET)的阈值电压,在上述情况下,是复位晶体管402的阈值电压。
[0094] 回忆模拟电子学,在nMOSFET(更常用的类型)中,只有当栅源极电压VGS超过它的Vth或阈值电压时,电流才从漏极流到源极。相反地,在pMOSFET中,只有当VGS比它的Vth(其为负值)小时,才导通相同的路径(但是,从源极流到漏极)。为了简单,我们可以假设跨越相同的CMOS图像传感器中的所有MOSFET的Vth大约相同(对于pMOSFET,Vth将为负值但是我们可以假设它的绝对值是大约相同的),因为可以以相同的方式制造它们。但是,也可以组合具有不同Vth值的MOSFET来实现一些新颖的设计功能。在图4中,Msel或选择晶体管406可以是MOSFET,其在它的相应APS被选择用于通读选择信号408(如图4中所示的SEL)时导通。反向偏置的使用和随后的电压降低被称作累加模式,并且对于光电二极管是最常见的模式,例如,如Smart CMOS Image Sensors and ADDlications,JunOhta,ISBN 0-8493-3681-3 CRC Press.2008的第29-35页所描述,其通过引用方式并入全文。
[0095] 因为光电传感器的电压VPD或光电二极管电压405在曝光期间降低而不是增加,它意味着当像素是暗的时,Msf或源跟随器晶体管404将导通并消耗电流,但是当像素变白时,电流将降低甚至电流可停止流动。这意味着对于经常在现有技术中使用的这种设计的APS(如图4中所示),较暗的图像将通常比较白的图像消耗较多的电流。但是,对于闪烁检测,我们仅对闪烁像素如白色像素感兴趣,并且在一个捕捉图像中它们应非常少。如果我们减少LED照明的曝光时间以节省LED功率,图4中示出的传统的APS设计事实上将消耗更多的功率,因为多数像素将是黑的,而这不是所期望的。因此,当多数像素是黑的时,消耗较少功率的APS是非常亟需的。
[0096] 图5示出根据本发明实施方案的具有限流器的改进3T-APS。APS500包括复位晶体管502、光电二极管503、源跟随器晶体管504、光电二极管电压505、选择晶体管506、供电电压507、选择信号508、输出电压509和限流晶体管510。APS 500是低功率的、仅进行闪烁检测的设计,其在多数像素为黑的时消耗较少的功率且更适合闪烁检测。组件502-509类似于图4的组件402-409,但具有一些微小的改进。在一种实施方案中,对于源跟随器晶体管504,可将源跟随器晶体管404(其可为nMOSFET)变为pMOSFET,从而为源跟随器晶体管504反转漏极和源极引脚的位置。现在,当像素不是闪烁时,它将是黑的或接近黑的,并且光电传感器的电压将是高的,接近Vdd;由于pMOSFET的源极与Vdd(供电电压507)相连,所以只要栅极电压(即,光电传感器电压)是高的且接近Vdd,pMOSFET就将保持关闭状态。
[0097] 我们可以校准视线跟踪器(例如,曝光时间)以便在多数条件下,由LED照明引起的闪烁将导致光电传感器的电压改变大于Vth(pMOSFET的阈值电压)的量,而非闪烁像素将不能将他们的电压减低Vth或更多。因此,所有的非闪烁像素将使其pMOSFET关闭并基本不消耗电流。闪烁像素将使其pMOSFET导通并消耗一些电流,但是这些像素的总数会非常小。如果我们为pMOSFET增加限流器,例如大电阻器或限流晶体管510,我们可进一步控制消耗的功率的量。在一种实施方案中,限流器可以是大电阻器(例如为几兆欧姆)的形式。在一种实施方案中,限流器可以是限流晶体管510的形式,其可能更便于大规模集成。在一种实施方案中,限流晶体管510可以是具有小的0V漏源极饱和电流(IDSS)(例如,1μA)的DeMOSFET(耗尽增强型MOSFET)。当阅读1个扫描(水平)线(行)时,如果我们预计≤10个闪烁像素,且Vdd=3V,IDSS=1μA,那么那条线中的所有APS的峰值功率可为≤3*10*1μW=30μW。
[0098] 在实际执行中,由于nMOSFET(例如,复位晶体管502)通常用于复位光电二极管503以充分反向偏置,且在它的栅极处的复位信号典型地使用相同的供电电压507,例如Vdd,且这个nMOSFET的源极引脚与光电二极管503相连,而且由于MOSFET要求栅源极电压(VGS)高于Vth以导通MOSFET,因此在图5示出的设计中光电二极管503可能充电到Vdd-Vth。这是CMOS APS设计中熟知的问题或行为。因此,在我们的改进APS中,Msf或源跟随器晶体管504的VGS将在(Vdd-Vth)-Vdd=-Vth处开始而不是从0开始。这意味着,只要存在少量的光(而不是需要更多的光),Msf或源跟随器晶体管504就会导通。为了解决这个问题,可以在502中使用pMOSFET以确保完全复位至Vdd,或者我们可使用额外的nMOSFET以降低Msf或源跟随器晶体管504的源极电压,如图6中所示。这个额外的晶体管可在所有像素之间共享,因此具有可忽略不计的开销。
[0099] 图6示出根据本发明实施方案的具有共享晶体管的改进3T-APS。APS 600包括复位晶体管602、光电二极管603、源跟随器晶体管604、光电二极管电压605、选择晶体管606、供电电压607、选择信号608、输出电压609、限流晶体管610和共享晶体管612。APS 600的组件602-610与APS 500的组件502-510类似。共享晶体管612将源跟随器晶体管604的源极电压降至Vdd-Vth,这与复位后的初始光电二极管电压VPD 605相匹配,作为只要存在少量的光(本该需要更多的光),源跟随器晶体管604就导通的有问题的情况的解决方案。共享晶体管612也可在多个像素之间共享以节省晶体管和晶体管空间,从而具有可忽略不计的开销。
[0100] CMOS图像传感器阵列有利于随机存取,且他们还可使得整行的像素被感应,很像其他二维布局电路。因此,我们可在每列放置上述的电阻器或DeMOSFET(属于限流器,在图5和图6中被表示为限流晶体管510,610),并同时访问行中的所有APS元件。在列举传感器阵列中的所有行后,完整的捕捉图像将被处理。pMOSFET的输出电压适合做CMOS的逻辑输入。因此,可使用传统的逻辑设计来实现期望的任何逻辑处理。例如,可将MOSFET输出发送至一行存器或寄存器以存储他们的值。然后,可将pMOSFET与另一控制晶体管(例如,不论以何种方式使用的Msel 508,608)脱离以减低功耗。然后,我们可使用优先编码器电路(例如,在Priority Encoders,www.electronics-tutorials.ws/combination/comb_4.html中所讨论的,其通过引用方式并入本文)以选择一个闪烁像素(其与非闪烁像素具有不同的电压和逻辑值)并输出它的列号。然后,可从优先编码器电路清除这个像素并可选择相同行上的下一个闪烁像素并显示它的列号,直至这行上的所有闪烁像素均被显示。上面描述的过程基于CMOS逻辑且有望消耗非常低的功率。
[0101] 闪烁可能与CMOS图像传感器阵列中的一小群像素相对应,而不是仅与一个像素相对应。这可通过按照闪烁像素在传感器阵列中的二维坐标和相对邻近性对闪烁像素分组而检测,其可优选地在软件中进行,因为预计这种像素的数量少。
[0102] 可替换地,可使用“胜者为王”(Winner-Take-All)(WTA)电路(例如,在A 200μs Processing Time Smart Image Sensor for an EyeTracker Using Pixel-Level Analog Image Processing,Dongsoo Kim和Gunhee Han,IEEE Journal of Solid-State Circuits,第44卷,No.9,第2581-2590页,2009年9月中所讨论的,其通过引用方式并入本文)而不是优先编码器电路来感应pMOSFET的输出电压或电流,并输出优胜者(其具有最高的电压或电流,并对应最明亮的像素),然后选择下一个优胜者,以此类推。这种方法具有严格基于它们的亮度(与优先编码器中的一些任意打破僵局的逻辑相反)每次选择一个闪烁像素的优点。但是,WTA电路通常比CMOS逻辑电路慢,这对于将在下面描述的闪烁检测方法的变型形式可能是个问题。
[0103] 基于pMOSFET的Msf或源跟随器晶体管604(以及504)也可用于其他类型的APS,如4T-APS(4-晶体管有源像素传感器)(例如,图8中的804),只要光电二极管以反向偏置模式复位并使用累加模式。分别在图7和图8中示出传统的4T-APS及其改进用于低功率闪烁检测。应注意的是,在高TG信号时,来自图7和图8中的光电二极管的电荷转移到浮动扩散(FD)电容,其为一种用于降低CMOS图像传感器中的采样噪声的设计(对于更多的细节,参见Smart CMOSImage Sensors and Applications,Jun Ohta,ISBN 0-8493-3681-3 CRCPress.2008的第39-42页,其通过引用方式并入本文)。
[0104] 图7示出传统的4-晶体管APS(4T-APS)。APS 700是现有技术已知的,并包括复位晶体管702、光电二极管703、源跟随器晶体管704、选择晶体管706、供电电压707、选择信号708、输出电压709、转移栅极晶体管711、浮动扩散电压713和浮动扩散电容714。元件702-704、706-709与图4-6中的相应参考特性类似,因此省略冗余的描述。如果输入转移栅极晶体管711的TG信号升高,那么来自光电二极管703的电荷将被转移到浮动扩散电容714。这种方法被设计用于降低CMOS图像传感器中的采样噪声。
[0105] 图8示出根据本发明实施方案的具有限流器和共享晶体管的改进4T-APS。APS800包括复位晶体管802、光电二极管803、源跟随器晶体管804、选择晶体管806、供电电压
807、选择信号808、输出电压809、限流晶体管810、转移栅极晶体管811、共享晶体管812、浮动扩散电压813和浮动扩散电容814。组件802-804、806-814与前面附图中的组件类似,但是应注意的是,源跟随器晶体管804可以是pMOSFET,并且共享晶体管812可以在多个像素之间共享以节省晶体管空间,与图6中的共享晶体管612类似。而且,与图7类似,如果输入转移栅极晶体管811的TG信号升高,那么来自光电二极管803的电荷将被转移到浮动扩散电容814。此外,这种方法可帮助降低APS 800中的采样噪声。
[0106] 应注意的是,pMOSFET可能要求N-基底,其与多数基于光电二极管的光电传感器设计中使用的P-基底相反。这可能相应地增加制造复杂性。但是,将光电二极管改变为N-基底(并通过接地电压和Vdd的交换而反向偏置它,因为反向偏置对于累加模式操作是必须的)不能避免这种制造复杂性,因为将发现,现在将需要nMOSFET源跟随器来确保相同的节能特性。因此,需要与光电传感器的基底相反的基底的MOSFET来提供低功率闪烁检测。具有nMOSFET Msf的N-基底光电二极管的等效电路可使得接地电压和Vdd交换且还使得光电二极管翻转。图9示出具有N-基底光电二极管和nMOSFET Msf的3T-APS的简单实例。
[0107] 图9示出根据本发明实施方案的通过N-基底光电二极管执行低功率闪烁检测的改进3T-APS。APS 900包括复位晶体管902、光电二极管903、源跟随器晶体管904、光电二极管电压905、选择晶体管906、供电电压907、选择信号908和输出电压909。组件902-909与前面附图中的类似参考特性相类似,除了N-基底光电二极管用于光电二极管903,其以与在前的附图的光电二极管不同的方向取向。APS900在复位期间还可具有输入复位晶体管902的0V复位信号,以及-Vdd值(负值)的供电电压907。还应注意的是,光电二极管903是N-基底光电二极管且从先前的附图中的光电二极管的方向翻转。此外,复位晶体管902和源跟随器晶体管904的漏极和源极引脚与先前的附图相比也为翻转的。使用nMOSFET和N-基底光电二极管也可实现低功率闪烁检测。
[0108] 近红外窄带滤波器在阻止背景光干扰中的效果
[0109] 本发明的这个部分也将示出典型的光电二极管有望产生多少光电流,以及因此,对于特定曝光时间有望下降多少电压。基于硅的光电二极管通常在大约880nm近红外波长(其为典型地用于眼睛/视线跟踪的波长)处具有大约0.1A/W敏感度。如果我们为每个眼睛使用1个消耗2mW功率的LED,并且1/3的功率变成红外辐射,那么每个眼睛的照明功率可为0.667mW。假设角膜占据约10%的照明区域并假设相对均匀的照明,那么角膜获取0.667mW的辐射的10%。现在,我们进一步假设每个相机占据反射照明的完整2π半球立体角的约1/1000,并假设皮肤和眼睛可反射50%的红外光(这可能被高估),那么相机透镜现在可接收被反射的照明总量的最多0.5*0.667mW*1/1000=333nW。使用100x100像素阵列,每个像素最多接收333nW/10000=33.3pW。在0.1MW,每个光电二极管将产生0.1*33.3=3.33pA的光电流。例如,根据Smart CMOS Image Sensors andApplications的至少第29-31页,这样的电流将典型地花费大约100ms将光电二极管电压从3V的Vdd降至接近0V,其中减少相对于曝光时间和光电流大致成线性(对于更准确的分析,例如参见Smart CMOSImage Sensors and Applications的第29-31页)。
[0110] 现在,相比之下,对于闪烁像素,假设整个闪烁适合一个像素,并假设角膜具有对近红外光的2.4%的反射率(例如,参见Video-basedeyetracking methods and algorithms in head-mounted displays,HongHua和Prasanna Krishnaswamy,2006年5月15日/第14卷,No.10/OPTICS EXPRESS,其通过引用方式并入本文),那么闪烁像素将接收
0.024*0.1*0.667mW*1/1000=1.6nW。因此,在闪烁像素处的光电二极管将产生0.1*1.6=160pA的光电流。假设没有背景光干扰,这给出闪烁和非闪烁像素之间至少160∶3.33=48∶1的SNR。这是因为大量的闪烁光聚焦在单个像素中。通过识别出100x100像素阵列具有10000个元件可估计因闪烁聚集而产生的放大,因此,因这种聚集而产生的放大比率大致为0.024*0.1*10000=24。应注意的是,虽然我们可以使用1000x1000像素阵列并实现甚至更高的放大比率,但这将增大成本,而且由于LED不一定是完美的点光源,并且由于角膜的虚拟闪烁图像不严格为单个点(即使完美的球面镜也不能产生单个点图像而是具有小尾巴的图像),因此闪烁可扩大到一小群像素,且与单个闪烁像素相比不那么易于处理。应注意的是,使用Ohta的(SmartCMOS Image Sensors and Applications的第29-31页)指导,160pA的电流将典型地花费大约100ms/48=2ms的时间将3V的Vdd降至接近
0V。实际中,我们不需要多达3V的降幅,事实上,比Vth降幅稍多的降幅是足够良好的。如果Vth=0.7V,那么我们可指定例如1.25*Vth=0.875V作为期望的降幅,并且它可能只需花费大约0.875V/3V*2ms=0.58ms曝光时间就能达到。
[0111] 现在,分析背景光干扰的影响。让我们从最强的可能干扰,直射阳光(例如当太阳光直接照射在眼睛上时)开始。从太阳能光伏电池技术已知,直射阳光具有大约1kW/2
m 的能量浓度,并具有大约100,000勒克斯的亮度。相比之下,阴天和室内照明具有大约
1000勒克斯。应注意的是,勒克斯以可见光表示,因此红外光对勒克斯贡献为零,但是它为能量浓度作出贡献。假设眼睛区域反射大约10%的直射阳光,且眼睛区域为大约4cmx
2 -4 2 2
4cm=16cm,那么跨越整个太阳光谱反射的照明功率为0.1*16*10 m*1kW/m =160mW。如果唯一使用的滤波器为通用IR通过滤波器,假设1/4的反射阳光可以穿过并激活硅基光电二极管(应注意的是,光子波长必须比1100nm短以激活硅),并假设相机透镜覆盖整个
2π立体角的1/1000,那么相机将总共接收1/4*160mW*1/1000=40μW。假设反射为散射的并在100x100个像素之间相对均匀地遍布,那么每个像素在0.1A/W的敏感度下将接收
40μW/10000=4nW,并将产生0.4nA或400pA的光电流作为干扰。这是由上述的LED产生的光电流的2.5倍。由于太阳与遥远的点光源类似,因此从角膜的反射将形成太阳引起的闪烁,并且这个闪烁将更强烈,因为光集中在像素上。应注意的是,如果背景光干扰是1000勒克斯(例如,室内光),假设能量谱分布与直射阳光类似,那么它将仅产生400pA/100=
4pA,仅为上述的LED引起的光电流的1/40。但是,如果背景光是点光源如电灯泡,那么仍可形成闪烁,且该闪烁仍可引起对LED照明的足够干扰。
[0112] 现在,如果使用与LED产生的输出波段恰好匹配的近红外(NIR)窄带(NB)滤波器,那么可极大地减小背景光干扰的影响。例如,一个数据表(Standard-Line Near Infra-red Bandpass Filter ListingProduct 880.0IF 40.www.cheshireoptical.com/NIRfilters.htm,其通过引用方式并入本文)示出一个这样的滤波器具有中心为880nm的40nm的半宽,在带宽内进行65%的传输,在带宽外具有1000-10000倍的抑制比。类似地,另一个数据表(MOLD LED Lamp L880Series:Infrared LED Lamp)示出特定的NIR LED具有中心也为880nm的40nm的半宽。为了简单,假设阳光光谱在从300nm到1100nm的总带宽为800nm的范围内为相对均匀的,而且由于带宽外的光几乎被滤波器全部拒绝,因此仅有
40nm/800nm=0.05的背景光会在窄带内,并且大约仅仅0.05*0.65=3.25%将通过该滤波器。现在,对于100,000勒克斯直射阳光,相机将仅接收0.0325*160mW*1/1000=5.2μW,并且对于散射反射,每个像素将获得5.2μW/10000=0.52nW,其反过来产生52pA的光电流作为干扰。尽管它不可忽略,但是现在它比LED产生的160pA低很多。为了更准确,使用
65%NIR NB滤波器,LED照明(假设多数LED照明在40nm带宽内)将可能产生0.65*160pA=104pA而不是160pA。对于太阳引起的闪烁,这将仍然是个问题,但是将在下个部分中进行说明。对于1000勒克斯的室内光,即使源(例如,电灯泡)引起闪烁,且该闪烁可能比散射反射强大约100倍,但是源仍比阳光弱100倍。因此,这样的闪烁可能不会导通pMOSFET且不会引起显著的干扰。
[0113] 为了解决太阳引起的闪烁,我们可执行两次背靠背的曝光,以便它们捕捉几乎相同的眼睛特性。在两次曝光中,我们将曝光时间校准为与不具有背景光干扰时所使用的曝光时间相同,例如,如果仅存在LED照明,它将导致比pMOSFET的Vth稍高的电压降。在第一次曝光期间,我们可关闭LED并检查是否存在任何闪烁。如果存在闪烁,它们一定是假闪烁,由此记录它们的像素位置。在第二次曝光期间,LED是导通的,并且也记录被检测到的闪烁。然后,将来自第一次曝光的假闪烁的像素位置与第二次曝光中的闪烁相比,可能使用小的二维邻域搜索窗口以防止闪烁已经稍微偏移其位置。从记录中删除与任何假闪烁恰好对应(按照位置邻近性)的来自第二次曝光的任何闪烁。然后,剩下的闪烁最有可能是由LED引起的真实闪烁。在一种实施方案中,LED可在第二次曝光期间关闭而在第一次曝光期间导通,并将在第二次曝光期间记录假闪烁且与第一次曝光相比,有效地获得相同的结果,但是这种配置稍微有点不合理且效率稍低。应理解,如果假闪烁碰巧与真实闪烁重叠,那么真实闪烁也将被消除。因此,有较小的可能性在假闪烁消除期间没有检测到真实闪烁。但是,这可通过下面的方式减轻:基于真实闪烁和假闪烁的既往历史以及来自两个LED的真实闪烁的预测位置,从上述实施方案中的2个LED中选择更不可能与假闪烁重叠的LED。当然,可以使用多于2个LED并从中选择,但是为了降低成本,2个LED可能是在成本和性能方面的良好权衡。
[0114] 当然,较高的LED功率还可有助于SNR。如果LED功率是上述的实例的10倍,那么仅需要1/10的曝光时间,且背景光的干扰强度将为1/10。但是,必须注意的是,LED功率应在由健康规定设置的限值内以便避免对眼镜造成任何伤害。使用较高的LED功率(由此需要较短的曝光时间)的有益效果是减少快速眼睛运动对每次曝光的影响,且与较低LED功率和较长曝光配置相比,两次曝光彼此关联性更高。
[0115] 在上面的描述中,我们以时间调制的方式开启和关闭LED照明,而且在此期间我们假设背景照明在两次曝光期间通常是恒定的。这个假设对于阳光、白炽灯泡、蜡烛等通常是正确的。但是很多装置,例如TV、CRT和LCD监视器具有已知的刷新率,因此它们的显示器也将以时间调制的方式照明。为了避免背景照明在两次曝光期间改变,可偶尔对于两次曝光均关闭LED照明,并检查假闪烁在两次曝光之间是否一致。如果它们不一致,背景照明可能是时间调制的,因此可采取措施。例如,视线跟踪器可为两次曝光选择不同的时间偏移(但是可能保持相同的跟踪频率),在此期间背景照明更稳定。视线跟踪器可能必须检查一致性并定期地调节时间偏移。视线跟踪器可采用评估时间调制的特性的算法以便它可更有利地补偿背景照明的影响。
[0116] 用于测量两次曝光之间的电压差的具有2个电容的改进APS
[0117] 在上面的描述中,我们已经利用时间调制的(开启/关闭)LED照明来识别假闪烁和真实闪烁,进一步地继续下去,我们可以执行两次曝光并比较两次曝光之间产生的电压差。事实上,这之前已被JetPropulsion Laboratory article提出(例如,参见Ambient-Light-CancelingCamera Using Subtraction of Frames,NASA Tech Briefs,2004年5月,其通过引用方式并入本文),其中摄取两个图像,然后在软件中执行两个图像上的相应像素之间的减法。Zamir识别系统(例如,参见公开的美国专利申请No.20080203277,其通过引用方式并入本文)已经提出更加基于硬件的不同设计,其中使用频率调制的信号和频率滤波器,或使用时间调制的(开启/关闭)信号,并且在两次曝光中分别对电容进行充电和放电。Zamir方法也建议使用2个像素阵列,每个像素具有1个电容,并使用计算模块进行两个电容的电压的减法。
[0118] 图10示出根据本发明实施方案的基于两次曝光之间的电压差的两电容APS。APS1000包括复位晶体管1002、光电二极管1003、源跟随器晶体管1004、光电二极管电压1005、选择晶体管1006、供电电压1007、选择信号1008、输出电压1009、共享的限流晶体管1010、第一充电晶体管1015、第一电容1016、第二充电晶体管1017和第二电容1018。本发明提出的方法也可使用时间调制的照明和减法,但是它在1个像素中利用2个电容并且仅仅需要
1个像素阵列,而不是如Zamir方法要求2个像素阵列并且每个像素具有1个电容。这可见于APS 1000。在第一次曝光期间,LED关闭,并且通过光电二极管1003给第一电容1016充电(更准确地说,由于初始时电压是Vdd-Vth,第一电容1016在放电,并且当光电二极管
1003获得曝光时,电压将下降)。在第二次曝光期间,LED开启,并且通过光电二极管1003给第二电容1018充电。第一电容1016的阳极与Msf源跟随器晶体管1004(在一种实施方案中,使用nMOSFET作为源跟随器晶体管1004)的栅极相连,并且第二电容1018的阳极或者如图10中所示的间接地与源跟随器晶体管1004的源极相连,或者通过将选择晶体管
1006移动到第二电容1018的下方而直接地达到相同效果。使用这种配置,如果背景照明在两次曝光期间是稳定的,并假设在两个循环中均没有过度曝光,那么第一电容1016的电压将比第二电容1018的电压高,因为在第二次曝光期间,由于LED照明,光电二极管1003具有更多的入射光。曝光时间可设置为与没有背景光干扰的情况相同。因此,电压差将比Vth稍高,这将足够导通源跟随器晶体管1004并导致电流流过它。对于不是真实闪烁(包括假闪烁)的像素,假设没有过度曝光,那么第一电容1016和第二电容1018的电压将几乎相同,电压差将接近0V,它将不能导通源跟随器晶体管1004,即使是假闪烁。在图10中,使用两个信号来控制何时对每个电容进行充电/放电。发送“充电-1”信号给第一充电晶体管1015以控制第一电容1016,发送“充电-2”信号给第二充电晶体管1017以控制第二电容1018。在上面描述的相应复位和曝光模式期间,充电-1和充电2可分别为开启(ON)或高。
[0119] 在一种实施方案中,APS 400、500、600、700、800、900和1000示出的晶体管可以为MOSFET晶体管。在一种实施方案中,APS 400、500、600、700、800、900和1000示出的晶体管可以为双极性结型晶体管。在一种实施方案中,APS 400、500、600、700、800、900和1000示出的晶体管可以比示出的晶体管更多或更少。
[0120] 应注意的是,通常地,MOSFET是三端子装置,其中基底(大块)短接至源极引脚,这生成隐式二极管并使得每当nMOSFET的源极电压比漏极电压高时整体MOSFET容许电流流动。这个问题可在图10中出现,例如,当电容1具有比光电二极管高的电压从而将电荷泄露到光电二极管中。交换漏极和源极引脚不能解决这个问题,因为那样光电二极管可将电荷泄露到电容1中。
[0121] 在实际执行中,这个问题可通过制造电荷控制MOSFET(实际上是四端子装置)而避免,其中其基底不短接至其源极引脚。这通过经常使用的流线型布局实现,其中光电二极管与其他MOSFET无缝地集成,如图11所示。
[0122] 图11示出根据本发明实施方案的流线型布局,其中光电二极管与其他MOSFET无缝地集成。布局1100包括复位晶体管1102、第一充电晶体管1115、第二充电晶体管1117、VC1电压1120(其测量由第一浮动扩散形成的电容C1的电压)、第一浮动扩散区域和第一n-阱区域1121、VC2电压1122(其测量由第二浮动扩散形成的电容C2的电压)、第二浮动扩散区域1123、光电二极管n-阱1124、第二n-阱区域1125、和p-基底1130。布局1100是图10中示出的光电二极管1003的物理布局实现,例如,为了避免电荷泄露。应注意的是,第二电容1018以三维的方式陈列。图11与具有浮动扩散电容的4T-APS有些类似:可参考Smart CMOS Image Sensors and Applications的第40-41页和图2.23以进行比较。优选地,应当校准制造过程并设计CMOS图像传感器芯片的电势分布图以使得光电二极管1003的电荷完全流进期望的浮动扩散电容,以简化曝光时间的校准。否则,将在光电二极管1003和浮动扩散电容之间以某种方式共享电荷,而这通常使曝光时间的校准变得复杂。
[0123] 参考图10,应注意的是,上面的方法具有一些动态电路设计的元件,因为一旦Msf(或源跟随器晶体管1004)导通并且电流开始流经其中,那么第二电容1018将逐渐被充电以使电压升高,而且一旦它的电压变得与第一电容1016的电压一样高,源跟随器晶体管1004就将关闭且电流将停止流动,这看起来好像是这个像素不是闪烁,但是这将仅在电流流动一段足够长的时间后发生。因此,在充电太多改变输出之前尽可能快地采样输出电压或电流是关键的。例如,如果第二电容1018具有1pF的电容量,且如果我们使用1μA的限流器,那么将仅花费1μs来将它的电压改变(升高)1V。胜者为王(WTA)电路(例如,参见A 200μs Processing Time Smart Image Sensor for anEye Tracker Using Pixel-Level Analog Image Processing)可严格地基于输入大小(例如,取决于闪烁亮度的电压)(从整行)选择优胜输出,但是比CMOS逻辑(典型地少于数十ns)具有更长的延迟(典型地为数百ns),因此,WTA电路更可能改变闪烁像素的电容2的电压。
[0124] 此外,WTA没有存储器,并且为了输出行中的所有闪烁像素,需要数次迭代,且它们都引起每个像素中的第二电容1018改变。因此,WTA可能不适合所提出的2电容APS,如图10中通过APS 1000所示。相比之下,使用CMOS逻辑,一行锁存器或寄存器可用于在数十ns内保存APS输出电压的二进制值,而且在那之后,可以关闭所有的APS元件以节省功率和避免第二电容1018的电压的进一步改变。此外,可使用优先编码器电路来输出当前行中的所有闪烁像素,每次一个,并且所有这些可在不导通源跟随器晶体管1004或再次改变第二电容1018的电压的情况下进行。
[0125] 也可以将pMOSFET用于2电容APS,其中光电二极管具有P-基底。第二电容1018(对于闪烁,有望具有较低的电压)的阳极可与pMOSFET的栅极相连,并且如果第一电容1016的阳极可与pMOSFET的源极相连,那么漏极必须(间接地)接地。然后,如果第二电容1018的电压比第一电容1016的电压低超过Vth,像素将开启,第一电容1016将开始漏电直至它降至第二电容1018的电压并停止。因此,对于基于pMOSFET的APS,存在类似的动态电路问题,并且因为与之前相同的理由,基于CMOS逻辑的锁存器/寄存器和优先编码器电路比WTA电路更优选用于选择当前行中的闪烁像素。为简洁起见,省略用于具有pMOSFET的2电容APS的精确电路。类似地,如果光电二极管使用N-基底而不是P-基底,那么也可相应地调整电路以只在第二电容1018的电压与第一电容1016的电压足够不同时导通Msf。
[0126] 所提出的方法的独特性是,它将减法与MOSFET的开关特性相结合。但是,这个方法可能为设计和制造增加更多的复杂性,因此它应只在其他方法表现不佳时使用,例如,假闪烁经常碰巧与真实闪烁重叠的情况下。实际上,具有假闪烁消除的较简单pMOSFET设计可能是在复杂性、实用性和成本方面的较佳选择。在所有的情况中,可使用近红外窄带滤波器以被动地阻挡多数背景光干扰。
[0127] 使用2电容APS,可在Msf或源跟随器晶体管1004的漏极采样它的输出电压Vo(1009)。如果其不是闪烁像素,Vo将近似等于Vdd。如果其是闪烁像素,Vo将近似为VC2(例如,VC2电压1122),第二电容1018的电压,且它不是0V。这对于CMOS逻辑(其经常假设0和Vdd)产生接口问题。事实上,如果使用中压,将可能导通两种类型的MOSFET(回忆CMOS由pMOSFET和nMOSFET组成),从而打破只导通一种类型的假设。这可导致CMOS逻辑发生故障以及消耗高功率。
[0128] 这个接口问题的解决方案是,对CMOS逻辑使用不同的电压供应。在复位期间,假设使用软件复位,将VC2初始化为Vdd-Vth的值。在第2次曝光之后,即使没有背景光干扰,VC2将下降至少比Vth稍多的值,例如1.25*Vth。那么,VC2将降至不超过Vdd-Vth-1.25*Vth=Vdd-2.25*Vth。因此,如果我们设置CMOS逻辑的地电压为Vdd-2.25*Vth(而不是0V),它的满功率电压为Vdd,那么CMOS逻辑将与APS输出适当地接合。
[0129] 应注意的是,在上面的所有分析中,为了简单,我们假设电路中的所有类型的MOSFET具有相同的Vth值。事实上,它们不需要相同。通过理解这些分析的推导,本领域的技术人员应能够分析Vth值不同的情况。
[0130] 本发明提出一种新型的用于近视使用者的眼镜,以放松和减轻眼疲劳,以减慢、停止和/或甚至扭转近视的发展。在本发明中提供一种通常也执行眼睛和视线跟踪的低功率视线跟踪器。可提供一种眼镜形式的低成本、低功率眼睛/视线跟踪解决方案。眼睛/视线跟踪可视为重要的一些原因包括头部运动、背景光干扰和来自眼镜的反射,所有这些在所提出的视线跟踪器中被极大地减小。眼镜反射可能不再是个问题,因为跟踪器内置在眼镜中。眼睛/视线跟踪自身在监视使用者行为方面具有很多应用,例如,跟踪看电视或看广告牌上的广告时的一项焦点等。
[0131] 在上面的说明书和下面的附加文件中,已经结合其具体示例性实施方案描述了本发明。明显地,可在不脱离所附权利要求书所提出的广泛精神和范围的前提下对其做出各种修改。因此,说明书和附图应以说明性而非限制性意义来考虑。
[0132] 在本说明书中,各种功能和操作可被描述为通过软件代码实现或引起以简化说明。但是,本领域的技术人员应理解,这种描述意味着这些功能通过处理器如微处理器执行代码/指令而产生。可替换地,或者结合地,使用具有或不具有软件指令的专用电路,例如使用特定用途集成电路(ASIC)或现场可编程阵列(FPGA),来实现功能和操作。可使用不具有软件指令的硬连线电路或者与软件指令相结合的硬连线电路来实现实施方案。因此,技术既不限于硬件电路和软件的任何特定组合,也不限于由数据处理系统执行的指令的任何特定来源。
[0133] 虽然一些实施方案可在全功能计算机和计算机系统中执行,但是各种实施方案能够被分布为各种形式的计算产物并能够被应用到各种类型的用于实际实现分布的机器或计算机可读介质。
[0134] 公开的至少一些方面可至少部分地体现在软件中。也就是说,可在计算机系统或响应于其处理器如微处理器的其他数据处理系统中实现技术,从而执行容纳在存储器,例如ROM、挥发性RAM、非挥发性存储器、高速缓存或远程存储设备中的指令序列。
[0135] 实现实施方案而执行的程序可作为操作系统的部分或特定应用、组件、程序、对象、模块或称作“计算机程序”的指令序列而实现。计算机程序典型地包括在不同的时间在计算机中的不同存储器和存储设备中设置的一个或多个指令,而且,当指令被计算机中的一个或多个处理器读取并执行时,导致计算机执行必需的操作以执行包括各个方面的要素。
[0136] 通常,机器可读介质包括提供(即,存储和/或传输)可被机器(例如,计算机、网络设备、个人数字助理、制造工具、具有一组一个或多个处理器的任意设备等)存取的形式的信息的任何机制。
[0137] 机器可读介质也可用于存储软件和数据,当其被数据处理系统执行时导致系统执行各种方法。可将可执行的软件和数据存储在各种位置,包括例如ROM、挥发性RAM、非挥发性存储器和/或高速缓存。这种软件和/或数据的部分可存储在这些存储设备中的任一个中。而且,可从中央服务器或对等网络获取数据和指令。可在不同的时间在不同的通信会话或相同的通信会话中从不同的中央服务器和/或对等网络获取数据和指令的不同部分。可在应用程序的执行之前获取全部数据和指令。可替换地,可动态地、及时地、当需要执行时,获取部分的数据和指令。因此,不需要数据和指令在特定的实例时间全部在机器可读介质上。
[0138] 挥发性RAM典型地作为动态RAM(DRAM)而实现,其连续需要功率以更新或保持存储器中的数据。非挥发性存储器典型地为磁硬盘、磁光盘、光盘(例如,DVD RAM)或其他类型的甚至在系统断电后仍保持数据的存储器系统。非挥发性存储器也可是随机存取存储器。非挥发性存储器可以是与数据处理系统中的其他组件直接连接的本地设备。也可使用远离系统的非挥发性存储器,例如通过网络接口如调制解调器或以太网接口与数据处理系统连接的网络存储设备。
[0139] 计算机可读介质的实例包括但不限于可刻录和不可刻录类型的介质,如挥发性和非挥发性存储设备、只读存储器(ROM)、随机存取存储器(RAM)、闪存设备、软盘或其他可移动磁盘、磁盘存储介质、光存储介质(例如,光盘只读存储器(CD ROMS)、数字通用光盘(DVD)等)及其他。
[0140] 计算机可读介质可存储指令。通常,有形的机器可读介质包括提供(即,存储和/或传输)可被机器(例如,计算机、网络设备、个人数字助理、制造工具、具有一组一个或多个处理器的任意装置等)存取的形式的信息的任何机制。
[0141] 在各种实施方案中,可结合使用硬连线电路和软件指令以实现技术。因此,技术既不限于硬件电路和软件的任何特定组合,也不限于由数据处理系统执行的指令的任何特定来源。
[0142] 尽管附图的一些以特定的顺序示出多种操作,但是那些不是顺序依赖的操作可被重新排序并且其他操作可被组合或打破。尽管详细描述了一些重新排序或其他组合,但是对于本领域的普通技术人员来说其他替换形式将是显而易见的,因此不呈现替换形式的详尽列表。而且,应理解的是,步骤可在硬件、固件、软件或其任何组合中执行。
[0143] 本发明包括执行这些方法的方法和设备,包括执行这些方法的数据处理系统和包含指令的计算机可读介质,当指令在数据处理系统上执行时导致系统执行这些方法。
[0144] 尽管已经描述了目前被认为是最实用和优选实施方案的方法和系统,但是应理解,本发明不必限于所公开的实施方案。它旨在覆盖权利要求书的精神和范围内包括的各种修改形式和类似布置,权利要求书的范围应符合最宽解释以便包含所有这些修改形式和类似结构。本发明包括所附权利要求书的任何和所有实施方案。
[0145] 还应理解,在不脱离本发明的本质的前提下可做出各种改变。这些改变也隐含地包括在说明书中。它们也落入本发明的范围。应理解,本公开旨在以方法和设备的模式给出覆盖本发明的很多方面的专利,其既相互独立也作为整体系统。
[0146] 而且,本发明和权利要求书的各种元件的每个也可以各种方式实现。应理解,本公开包括每种变型形式,如任何设备实施方案、方法或过程实施方案的实施方案的变型形式、或者甚至只是这些的任何元件的变型形式。
[0147] 特别地,应理解,虽然本公开涉及本发明的元件,但是每个元件的词语可用等同设备术语或方法术语表示--即使只是功能或结果相同。
[0148] 这些等同、广义地,或者甚至更通用的术语也应被认为包含在每个元件或行为的描述中。当期望明确本发明授权的隐含的广泛覆盖范围时,可替换这些术语。
[0149] 应理解,所有行为可表示为执行这个行为的方法或引起这个行为的元件。
[0150] 类似地,公开的每个物理元件应理解为包括该物理元件促使的行为的公开。
[0151] 就这一点而言,应理解,为了实用性的理由以及为了避免潜在地增加数百条权利要求,本申请人仅示出具有原始从属的权利要求。
[0152] 在这个意义上做出非实质的替代,在这个意义上申请人实际上不起草任何权利要求以便逐字地包括任何特定实施方案,而且在这个意义上反之适用,申请人不应被理解为以任何方式旨在或实际上放弃这些覆盖范围,因为申请人可能不能简单地预期所有的可能性;不能合理地期望本领域的技术人员起草逐字地包含这些替换实施方案的权利要求。
[0153] 而且,根据惯用的权利要求解释,本文中连接词“包括”用于主张“开放的”权利要求。因此,除非上下文要求,否则应理解,术语“包括”或变型形式,例如“包含”或“含有”,旨在暗示包括所述的元件或步骤或元件或步骤的组合,但是不排除任何其他元件或步骤或元件或步骤的组合。这些术语应以他们的最广阔形式解释以便根据所附权利要求为申请人提供合法地允许的最广泛覆盖范围。
[0154] 在上面的说明书中,已经结合其特定示例性实施方案描述本公开。明显地,可在不脱离所附权利要求所提出的广泛精神和范围的前提下对其做出各种修改。因此,说明书和附图应以说明性而非限制性意义来考虑。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈