システム、機械、制御方法、プログラム

本発明は、少なくとも移動と作業のいずれか一方を行う機械やその機械の移動や作業を制御するためのシステムの発明に関する。

機械を使って移動と作業を自動的に行う技術が知られている。たとえば、特許文献1では、光源と検出器を有する反射ベース・センサーの農作物検知ヘッド(Crop sensing head)を車両に連結し、この車両を使って農作物検知ヘッドを農作物付近に通過させることで農作物の農作物データを収集する。この農作物データに基づいて農作物が必要とする物質(たとえば、肥料、種、栄養物、水、化学薬品など)の量を求めて、車両につながった散布器からの物質散布量を調整する。物質散布量の調整は、車両の速度を変えることにより行い、散布量を増加させたい場合には車両速度を減速し、散布量を減少させたい場合には車両速度を速める。この速度の調整は自動的に行われる。

しかしながら、この技術では、最初に田畑内のすべての区画に対して農作物ヘッドを連結した車両で走査し、その後に散布器を連結した車両の動きを自動制御しながら農作物に物質を散布するという動作をしなければならず、物質散布という作業を行うために車両は少なくとも二度圃場内を走行しなければならない。また、物質の散布量は車両の速度を変えることにより行うので、個々の農作物の状況に応じた精密な物質散布が難しい。このように、たとえば全体的な作業時間の短縮や個別の対象ごとに正確な情報に基づく精密な物質の供給というようにさらなる効率化を図る余地があると考えられる。そして、そのような移動や作業などの効率化を通じてシステム全体としての効率をさらにあげたい場合には、さらなる創意工夫が必要となる。

本発明は、上記課題に鑑み、システム全体の効率化をはかることができる装置を提供することを目的とする。

上記課題を解決するため、本発明のシステムは、第一の対象に対する動作を行う第一の動作装置と、前記第一の対象からアナログ情報を取得する少なくとも一つのセンサと、該センサにより取得したアナログ情報から取得される前記第一の対象に関する複数種類のデジタル情報のうち、少なくとも一種類の第一のデジタル情報に基づいて前記第一の対象を特定し、前記第一のデジタル情報とは異なる少なくとも一種類の第二のデジタル情報に基づいて前記特定した第一の対象に対する前記第一の動作装置による動作を制御する制御装置と、を備えている。

本発明によればシステム全体の効率化をはかることができる。

発明の一実施形態における圃場(農作業地)のシステム構成を模式的に示す図である。

発明の一実施形態における全体的な制御を司るサーバー装置を含む情報通信システム構成を模式的に示す図である。

発明の一実施形態における機械の一例である農業機械を示す図である。

発明の一実施形態における機械の一例である農業機械の他の例を示す図である。

発明の一実施形態における機械を移動させるための伝動装置の一例を示す図である。

発明の一実施形態における機械を移動させるための伝動装置の他の例を示す図である。

発明の一実施形態におけるセンサ装置の一種であるステレオカメラ装置の外観を示す図である。

発明の一実施形態におけるステレオカメラ装置の構成を示す図である。

発明の一実施形態におけるステレオカメラ装置に搭載されるFPGAの機能を機能ブロック図で示したものである。

発明の一実施形態におけるステレオカメラ装置で測距を行うための原理を説明する模式図である。

発明の一実施形態におけるステレオカメラ装置(SGMの応用方法)により検出できる画像および画像内において認識された距離情報に関する概念的な図を単なる撮像画像およびエッジ検出法による測距の概念図と比較するための図である。

発明の一実施形態におけるステレオカメラ装置により、基準画像のある領域(所定の基準画素)に対する比較画像の指定範囲におけるコスト(一致度または非類似度、類似度)を検出する過程を説明する図である。

発明の一実施形態におけるステレオカメラ装置で取得したずれ量とコスト値との関係を示す図である。

発明の一実施形態におけるステレオカメラ装置でコストを合成する過程を模式的に表現した図である。

発明の一実施形態におけるステレオカメラ装置でずれ量と合成したコスト値との関係を示す図である。

発明の一実施形態におけるレーザレーダ装置の構成を示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置(測色カメラ装置)の外観を示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置(測色カメラ装置)の構成を示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置に搭載可能なフィルタと絞りを示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置の撮像画像を示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置の撮像画像におけるマクロピクセルの拡大図である。

発明の一実施形態におけるマルチスペクトルカメラ装置で測定できる波長と分光反射率の関係を示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置に搭載可能な他のフィルタと絞りの例である。

植物の葉に対する典型的な分光反射スペクトルを示す図である。

発明の一実施形態におけるマルチスペクトルカメラ装置を利用したモニタリング装置の一例を示す図である。

発明の一実施形態における全天球カメラ装置を利用したモニタリング装置の一例を示す図である。

発明の一実施形態における全天球カメラ装置の外観を示す図である。

発明の一実施形態における全天球カメラ装置の光学系を示す図である。

発明の一実施形態における全天球カメラ装置の構成を示す図である。

発明の一実施形態における全天球カメラ装置のそれぞれの撮像素子で撮像した図の合成を説明するための図である。

発明の一実施形態における全天球カメラ装置を利用したモニタリング装置の他の例を示す図である。

発明の一実施形態におけるシステムで自動制御を行うための初期設定の処理を説明するフローチャートである。

発明の一実施形態におけるシステムで自動制御を行うための初期設定の続きの処理を説明するフローチャートである。

発明の一実施形態におけるシステムの自動制御による農業機械の移動および作業の全体的な処理を説明するフローチャートである。

発明の一実施形態におけるシステムの図34に示すフローチャートのS162、S170、S180の工程を詳細に説明するフローチャートである。

図35に示すフローチャートの続きの処理を説明するフローチャートである。

発明の一実施形態におけるシステムの図35に示すフローチャートのS224の工程を単なる移動の場合と連続的な作業を伴う場合に分けて詳細に説明するフローチャートである。

発明の一実施形態における連続的な作業を行う機械の一例として圃場の均平化を行うための農業機械を示す図である。

発明の一実施形態における農業機械による均平化作業の様子を示す模式図である。

発明の一実施形態における均平化作業を行う農業機械が行う図37(b)に示すフローチャートのS262の工程を詳細に説明するフローチャートである。

発明の一実施形態における均平化作業を行う農業機械によるレーザ照射を行うレーザレーダ装置の回転とレーザ受光装置の位置との関係を上方から観察した模式図である。

発明の一実施形態における農業機械による均平化作業の他の例の様子を示す模式図である。

本発明の一実施形態において、作業が必要な箇所を特定し、農業機械を用いてその箇所に作業をさせるためのシステム構成の一部を示す模式図である。

本発明の一実施形態における農業機械を用いて作業(施肥)を行う様子を示す図である。

本発明の一実施形態における農業機械で用いられる作業装置としての施肥装置を説明する図である。

本発明の一実施形態におけるモニタリング装置からの情報に基づいて作業を行う箇所を特定するためのサーバー装置の処理に関するフローチャートである。

本発明の一実施形態における農業機械で対象ごとに作業の必要性を判断してから作業を行う場合の図35のフローチャートのS224の工程の詳細なフローチャートを示す図である。

本発明の一実施形態における電気駆動の農業機械が充電のため作業を中断する場合の動作を示す図である。

本発明の一実施形態における農業機械が燃料や作業リソースの残量が少なくなるなどによって当初予定していた動作を実行することができなくなる場合に実行する動作に関するフローチャートを示す図である。

本発明の一実施形態における作業中断位置において中断位置に正確に位置するための位置合わせのために用いられる対象との距離測定の様子を模式的に示す図である。

本発明の一実施形態における電気駆動の農業機械が非接触型充電装置を使って充電を行った直後の様子を示す図である。

本発明の一実施形態におけるシステムによって、害獣といった異常を検知し、害獣を追い出す様子を示す図である。

本発明の一実施形態におけるシステムにおいて、図52に示す様子を上方から模式的に示した図である。

本発明の一実施形態におけるシステムで異常が発生した場合になされる処理のフローチャートである。

本発明の一実施形態における図54に示すフローチャートの続きの処理を示すフローチャートである。

本発明の一実施形態における農業機械が検出した異常(害獣)の画像とその画像に重畳して表示される距離や大きさの情報の一例を示す図である。

本発明の一実施形態における農業機械の他の例として移動式のスプリンクラーによる移動と作業(散水)の様子を示す図である。

本発明の一実施形態における農業機械の他の例としてクアッドコプターによる移動(飛行)と作業(散布)を示す図である。

本発明の一実施形態における情報通信システムの他の例を示す図である。

本発明の他の実施形態として農業機械に換えて建築作業機を移動機械(作業機械)とした例を示す図である。

以下、図1から図60を用いて、本発明の実施形態について説明する。本実施の形態は、移動しながら作業を行ったり、移動した後に作業を行ったりする農業機械や建設機械等の走行機械、飛行機械、船舶、潜水機械、ロボット等の移動体自体と、それらの移動体に対して直接または間接的に制御を行い、所望の作業を実行するためのシステムについての一例を示すものである。本実施形態は上記のとおりさまざまな移動体に適用できるが、ここでは移動と作業の内容が直感的に分かりやすい農業機械を対象として基本的な構成や動作の説明を行う。

〔全体システムの概要〕 図1と図2を用いて、本実施形態における全体システム1500の概略を説明する。

<圃場におけるシステム構成> 圃場における農作業において、トラクターなどの農業機械の移動および農業機械を使った作業の効率化を図ることが課題となっており、可能な限り人の手を使わずに自動制御でそれらを行うことが望まれている。図1に本実施形態が適用される圃場におけるシステム1501の構成を示す。本実施形態の全体システム1500は、図1のシステム1501と図2の情報通信システム1502の全体である。以下では、全体システム1500について述べた場合でも、システム1501、又は、情報通信システム1502の説明の場合があるし、システム1501、又は、情報通信システム1502について述べた場合でも、全体システム1500の説明の場合がある。

図1における圃場には、農業機械100としてのトラクター、農作物350、全天球カメラを用いた圃場モニタリング装置500、マルチスペクトルカメラ(または測色カメラ)を用いた状態モニタリング装置550、圃場の整地(均平化)作業を行うためのレーザ受光位置フィードバック装置(レーザ受光装置)610等が存在する。それぞれの機械、装置の構成や動作は、後ほど詳細に説明が行われる。

図中の破線は、無線通信による情報の送受信を示しており、農業機械100、圃場モニタリング装置500、状態モニタリング装置550などは無線通信ネットワークを構築する。この無線通信は、図2で示す情報通信システム1502の無線アクセスポイント700に接続される。このように農業機械100や圃場モニタリング装置500、状態モニタリング装置550などと情報通信システム1502は連携して動作を行うことにより、手動による操作は初期設定など最小限にとどめ、あとは自動制御による農業機械100の移動や作業を行うことができる。これによって、作業の効率化を実現することができる。これらの無線通信を使った情報通信システム1502の動作は、後ほど詳細に説明される。

なお、図1の圃場は屋外の圃場を示しているが、これに限られず、ビニールハウスによる温室栽培やその他室内で農作物を生産する場合も本実施形態に含まれる。

この圃場におけるシステム1501と次に説明する情報通信システム1502とによって本実施形態における全体システム1500が構築される。全体システム1500は、これらの機械や装置を使って手動操作をできるだけ省いた効率的な農作業を行う。

なお、図面の符号(図面内の番号)の後ろにつけられるアルファベットA、B、Cなどはその符号で示される装置や機械、部品等において、基本的な機能は同じであるが、異なる機能を有する場合に、それらを区別するためにつけられる。実施形態の説明において、これらの区別が不要な場合は、アルファベットは省略して説明を行う。この場合、アルファベットを有するすべての機械や装置がその説明の対象となる。

また、符号の後ろにハイフンと数字で示すものは、基本的に符号のみのものと同一または類似する機能を果たすが、構成が異なることを示す。今後の説明において、意識して区別していない場合は、符号の後ろのハイフンと数字は省略して説明を行う。この場合、符号のみのものと符号の後ろにハイフンと数字を有するすべての機械や装置がその説明の対象となる。

さらに、以後の説明で「ユーザ端末710、712」のように符号間に読点つけて連続で表現する場合には、基本的に「ある符合または/および別の符号」または「すべての符号のうち少なくとも一つ」という意味である。上記の例だと、「ユーザ端末710または/および712」または「ユーザ端末710と712のうち少なくとも一つ」である。

<情報通信システム構成> 図2は、本実施形態が適用される情報通信システムの構成を示す。本情報通信システム1502は、無線アクセスポイント700、インターネット702、サーバー704、データベース706、データベース708、ユーザ端末710、ユーザ端末712を含んでいる。

無線アクセスポイント700、サーバー704、データベース706、708は、有線によってインターネット702に接続されているが、これに限られず無線接続でもよい。また、ユーザ端末710、712は、有線または無線によりインターネット702に直接接続されてもよいし、無線アクセスポイント700やその他の中継器を介して接続されていてもよい。

無線アクセスポイント700は、圃場における機械や装置との情報通信を行うため、屋外用遠距離無線LANアクセスポイントであり、指向性アンテナ701を備えている。特定の方向から情報が通信されない場合には指向性アンテナ701には無指向性アンテナが使用されてもよい。また、無線アクセスポイント700は、ルータータイプであって、ルーティング機能やネットワークアドレス変換(Network Address Translation:NAT)機能を有する。ルーティング機能により、TCP/IPネットワークにおいて、目的ホストまでのパケット送信時に、最適な経路を選択して送信することができる。また、NAT機能により、2つのTCP/IPネットワークの境界にあるルータやゲートウェイが、双方のIPアドレスを自動的に変換してデータを転送することができる。これらの機能によって、サーバー704などとの間で効率的な情報通信を行うことができる。

無線規格は、標準規格であるIEEE802.11シリーズに準拠しているものを使用するが、それに限られない。たとえば、移動体通信システムで使用される、W−CDMA(UMTS)方式やCDMA2000 1X方式、Long Term Evolution(LTE)方式などであってもよい。

サーバー704は、CPU7041、ROM7042、RAM7043、ソリッドステートドライブ(Solid State Drive:SSD)7044、インターフェース(I/F)7045を含む。なお、SSD7044に加えて、またはSSD7044に代えてハードディスクを備えていてもよい。CPU7041は、サーバー704においてプログラムを実行する主体である。ROM7042には、電源投入直後にCPU7041が処理すべき内容や最小限必要な命令群が記録されている。RAM7043は、CPU7041が処理するデータの一時保管のためのメモリである。このサーバー704は、農業機械100や各種のモニタリング装置500、550、555の制御を行う制御装置として機能する。

サーバー704は、無線アクセスポイント700を介して、図1に示す圃場の農業機械100、圃場モニタリング装置500、状態モニタリング装置550などと情報通信を行う。また、サーバー704は、データベース706、708、ユーザ端末710、712とも情報通信を行う。このサーバー704が実行する動作については後述する。サーバー704が実行する動作は、SSD7044に格納されたプログラムがCPU7041によってRAMに読み出され、RAMに読み出されたデータに基づいてCPU7041により実行される。なお、SSD7044に格納されたプログラムは、更新可能となっている。また、プログラムは、CD−ROM、DVD−ROM、SDカード、USBメモリなどの携帯可能な記録媒体に格納されていてもよく、その場合、それらの媒体からサーバー704が読み出してプログラムが実行される。また、サーバー704はインターフェースを介してインターネット702に接続される。

ここで、全体システム1500は無線通信により情報のやりとりが行われるため、その情報を正確に送受するとともに、その送受信される情報に対するセキュリティを確保しなければならないという課題がある。このため、サーバー704は、農業機械100やユーザ端末710、712等から取得した位置情報から、その農業機械100やユーザ端末710、712等が圃場や情報通信関連施設など特定の領域内に位置するか否かを判断する。特定の領域に位置する場合には、その農業機械100やユーザ端末710、712等と認証処理を行い、認証に成功した場合にだけ、本実施形態の全体システム1500を適用する。すなわち、全体システム1500で通信される情報は暗号化されており、認証が成功した場合にだけ、復号のための鍵が付与され、意味のある情報通信が可能となる。一方、認証に失敗した場合には、情報の復号化ができないため、意味のある情報通信が行えず、全体システム1500が利用できなくなる。このようにして、全体システム1500の安全性を高めている。また、仮に農業機械100が盗難にあった場合であっても、認証ができない場合には、その農業機械100の使用ができないようにすれば、盗難防止に役立つ。なお、情報通信システム1502を利用するための機器が特定の領域内に位置するか否かを問わず、認証処理を行うものであってもよい。認証は本実施形態のように使用者のユーザID入力やパスワード入力によって行われてもよいし、農業機械100や圃場モニタリング装置500、状態モニタリング装置550などの場合にはその機械や装置が有する固有IDを使って行ってもよい。また、安全性を考慮しない場合には、認証や暗号化、復号化の処理は不要である。

また、全体システム1500又はその一部を利用者(ユーザー)に提供する場合に、全体システム1500の利用について正確かつ容易に把握し、効率的に利用者に全体システム1500の利用料等を請求できるようにすることが望まれる。このため、サーバー704は、後述の課金処理(請求書発行)も行う。このようにサーバー704では多くの処理を行うため、ハイパフォーマンスでロバストなコンピュータが使用される。ただし、これまで説明した、または今後説明するサーバー704で行う処理を複数のサーバー(コンピュータ)が分担して行ってもよい。たとえば、全体システム1500の管理用のサーバー、認識・分析用サーバー、課金管理用サーバーなどに分けて処理を行うこともできる。

またさらに、全体システム1500のようにシステムは複数の構成要素が連動して動作することにより成り立つため、システム内における構成要素の障害に対して素早く対処することが課題となる。この課題に対応するため、サーバー704は、農業機械100や圃場モニタリング装置500、555、状態モニタリング装置550に故障等の障害が発生しないか監視する。障害を検知した場合には、サーバー704は、情報通信システム1502を含む全体システム1500の提供者又は全体システム1500によるサービス提供者およびユーザ端末710、712に自動的に通知するようになっている。なお、農業機械100等が故障等の障害を検知した場合に、サーバー704からのクエリーを待たずにサーバー704に通知してもよい。このように、全体システム1500は障害対応を行えるので、システム内で不具合が生じた場合にサービス提供者等は早急に事態を把握でき、対応を行うことができる。

全体システム1500では、自動走行のために進行方向にある障害物や作業の対象である農作物の認識を正確に行うことが課題の一つとなっている。そこで、この認識処理を正確に、迅速に行うためにデータベース706は、各種のデータを保管する。サーバー704は、このデータベース706に保管されているデータを使って、後述の認識処理を行う。データベース706に格納されるデータは、主として、画像データ(認識処理に使う標準パターンなど)とその画像データの属性や種類およびその種類に対応する農業機械100の対応を示す情報である。画像データと属性や種類を示すデータ等は関連付けられた状態で保管される。なお、データベース706は、インターネット702を介して情報を提供するコンテンツデータを格納するものであってもよい。この場合も画像データとその属性や種類を示すデータ等は関連づけられている。このようなデータを蓄積すればするほど精度の高い認識処理を行うことができるようになる。

上記の認識処理に加え、圃場における作業情報や作業対象である農作物の状態などを蓄積し、上記の課金処理や将来の作業を効率的に行えるようにすることも重要である。このため、データベース708は、主として農業機械100、圃場モニタリング装置500、状態モニタリング装置550など圃場から送信される情報を格納するための保管場所である。たとえば、作業の開始時間、中断時間、終了時間や、作業が必要な場所の情報、肥料を与えた場所などの作業位置および年月日時間、後述の正規化植生指数NDVI、害虫情報などである。このような情報をデータベース化して蓄積し、蓄積したデータを分析し、活用することで、将来の営農の効率化を図ることができる。すなわち、サーバー704等が蓄積した情報を分析して、農作物の育成状況や出荷時期などに特定の傾向を導出し、その傾向に基づいて、たとえば、肥料をどの程度施せば、狙っている品質の農作物や所望の時期に農作物を得ることができるか等を割り出すことができる。とくに正規化植生指数NDVIの値によって収穫時期を予期できるようになるので、圃場で育成される農作物から多くの情報を蓄積することが望ましい。

またさらに、作物の販売価格は需要と供給の関係により決定されるため、需要が高いタイミングでその作物を出荷することが望まれる。そこでデータベース708は市場からの出荷情報や在庫情報も記憶する。たとえば、出荷される農作物(の包装)に対して無線タグやバーコードなどの識別可能な情報を付与する。出荷から市場に出回るまで移動や保管を行うタイミングで識別情報から作物の種類を取得し、逐次データベース708に識別された情報や識別場所、識別時間などの情報を保管する。なお、識別された情報の取得は、無線タグ読み取り装置やバーコードリーダーなどを有するシステムにおいてなされ、識別時間情報や識別場所情報等農作物の追跡に必要な情報とともにインターネット702を経由してデータベース708に保管される。これにより本実施形態におけるユーザ(ユーザ端末710、712を使用)やサーバー704は農作物の移動を追跡することができ、農作物の需要の状況を判断できる。すなわち、消費者が好む農作物は在庫が少ない、あるいは移動が早いので、サーバー704は(あるいはユーザがユーザ端末710、712を介して)データベース708に保管された情報を分析し、そのような農作物を特定できる。そして、サーバー704は、このような消費者が好む農作物については早く出荷できるように、農業機械100などを制御してその農作物に肥料や水遣り、二酸化炭素の供給を行うなどして植物の生長を促進し、早期に収穫を行うことが可能となる。

また、作業対象である農作物の収穫時期や収穫量を予測できるとシステム利用者(ユーザー)により大きな価値を提供できることになる。これを実現するため、サーバー704は、ユーザ端末710、712からの指示に応じて、後述する正規化植生指数NDVIや水ストレスの度合いや散水や施肥の程度、日照時間、気温、湿度などの作物が実際に育成された条件(育成条件)とそれらの条件下での植物の育成度合い、収穫時期、収穫量などを使って多変量解析、分析を行うことができる。これらのデータが蓄積されればされるほど、高精度のアウトプット(収穫時期や収穫量)予測を行うことができる。なお、上記の育成条件は、圃場にある農業機械100や圃場モニタリング装置500、555、状態モニタリング装置550、インターネットを介して提供される環境に関するコンテンツ情報(天候情報など)、及び、ユーザによる入力などのいずれかまたはそれらの組み合わせによって、サーバー704が取得することになる。なお、予測されたアウトプットは、ユーザ端末710、712に送信され、表示が行われる。また、このアウトプットの予測情報はインターネットなどの電気通信回線を通して、またはその予測情報を記録した記録媒体の提供を通じて他のユーザや顧客に対して独立して販売することができる情報財(Information Goods)でもある。

なお、データベース706、708は、サーバー704と別の構成として説明したが、データベース706、708の少なくとも一つをサーバー704内に存在させてもよい。この場合、SSDの領域を分割して、それぞれのデータベースを構成するようにしてもよい。またはデータベース706、データベース708の少なくとも一つを、インターネット702を介さずにサーバー704に有線または無線で接続してもよい。このようにすることで、インターネットを介しての通信を行わなくて良いので、データベースにアクセスする必要がある処理の迅速化を図ることができる。

ユーザ端末710は、タブレットタイプのコンピュータである。また、ユーザ端末712は、スマートフォン等のように使用する場所を選ばないモバイルタイプのコンピュータである。これらの端末は、4つの衛星からGlobal Positioning System(GPS)信号を受信して現在位置を特定する機能を有する。なお、圃場モニタリング装置500、555、状態モニタリング装置550等の絶対位置が分かっている場合には、それらの装置3つ以上から信号を受信し、それらの信号の減衰や受信の遅延から現在位置を特定してもよい。

なお、ユーザ端末710や712は、タブレットタイプのコンピュータやモバイルタイプのコンピュータに限られず、デスクトップタイプのコンピュータや何かに組み込まれた組み込み式のコンピュータ、あるいは腕時計や眼鏡などウェアラブルタイプのコンピュータであってもよい。

これらのユーザ端末710、712から圃場の農業機械100や圃場モニタリング装置500、555、状態モニタリング装置550などにサーバー704を介して指示を送ることができる。たとえば、農業機械100への作業開始命令などの送信である。また、ユーザ端末710や712は、圃場の農業機械100や圃場モニタリング装置500、状態モニタリング装置550からの通知や情報を、サーバー704経由で取得することができる。たとえば、ユーザ端末710、712では、農業機械100や圃場モニタリング装置500、状態モニタリング装置550で取得した画像を表示することができる。サーバー704はこれらユーザ端末710、712と農業機械100や圃場モニタリング装置500、状態モニタリング装置550との間での情報のやり取りをモニタリングし、それらをデータベース706やデータベース708に記録する。なお、サーバー704でのモニタリングを行わない場合には、ユーザ端末710、712は、サーバー704を介さずに直接農業機械100や圃場モニタリング装置500、555、状態モニタリング装置550と情報通信を行うことができる。

なお、本実施形態の情報通信システム1502はインターネット702経由で情報のやりとりを行う、いわゆるクラウドタイプのシステムであるが、これに限られず、たとえば、ユーザの施設内などに専用通信網を構築し、その専用通信網だけ、あるいはその専用通信網とインターネットの組み合わせにより情報のやりとりをおこなうものであってもよい。これにより、高速な情報伝達を行うことが可能となる。また、サーバー704の機能やそれが行う処理を農業機械100が備えていてもよい。これによって更に農業機械100による作業などの処理速度を速めることができる。

なお、本実施形態の全体システム1500は図1に示すような圃場におけるシステム1501と図2に示すような情報通信システム1502で構成されるが、上述の情報通信システム1502におけるサーバー704やデータベース706、708を圃場のシステム1501における農業機械100や圃場モニタリング装置500などに組み込むこともできる。 〔農業機械、装置の説明〕 続いて図3から図31を使って、本実施形態における農業機械、農業機械等に備え付けられる各種センサ装置、圃場に設置される装置について説明する。

<農業機械> 全体システム1500の構成要素の一つである農業機械は、効率的な作業を実現するために、サーバー704からの指示に基づいて自動で走行し、自動で作業対象である農作物(第一の対象の一例である)や土壌(第二の対象の一例である)などに対して作業を行うことができるものである。図3は主として農業機械100Aの外観を示す図である。なお、他の図面において同じ符号がつけられているときには、同様の機能を発揮するので説明を省略する場合がある。

この農業機械100Aはトラクターを示すが、本実施形態の農業機械は他の農業機械、たとえば、田植機、コンバイン、バインダ、飼料作物用機械、ロボット農薬散布機、移動式スプリンクラー、成果物収穫用ロボット、農作業用飛行物体など移動しながら作業を行う機械であってもよい。

農業機械100Aは、原動機102A、伝動装置104、作業装置106A、支持装置108、ステレオカメラ装置110、レーザレーダ装置112、マルチスペクトルカメラ装置113、無線通信用アンテナ114、手動操作部116、制御装置118A、GPS用アンテナ120、舵取り装置122、一対の照明灯124、一組の超音波ソナー装置126、一組の前輪128と後輪130を備えている。

原動機102Aは、農業機械100Aの内側にあり、エンジン(内燃機関)などの原動機またはエネルギーを受け入れる部分を指す。本実施形態においては、内燃機関はディーゼル機関であり、軽油が燃料として用いられるが、これに限られず、ガソリンを燃料とするガソリン機関や重油を燃料とするディーゼル機関であってもよい。手動操作部116にあるアクセルペダルの操作や制御装置118Aから制御信号に応じてシリンダ内のピストンの往復運動の速度を変化させる。後述するバッテリ224に充電を行うための発電機も備える。なお、電気のみで動く農業機械の場合には、モータが原動機102Aとなる。このモータの回転速度を変化させて農業機械の走行速度を変化させることになる。また、原動機102Aは電気モータと内燃機関を組み合わせたハイブリッドタイプの原動機でもよい。さらに原動機102Aは、水素を燃料とする機関や燃料電池によって動力を生み出す機関などであってもよい。

伝動装置104は、ベルト、チェーン、歯車など受け入れたエネルギーを伝達したり、変換したりする部分である(伝動装置104は動作装置の一例である)。すなわち、原動機102Aの動力発生源(内燃機関やモータ等)で発生させた動力を農業機械100の各部に伝達する装置である。この伝動装置104の詳細は後述する。

作業装置106は、すきやプラウ、播種機や植え付け装置、施肥装置、二酸化炭素発生装置など、所望の作業や仕事を目的に動作する部分である(例えば作動装置)。106Aは複数の耕うんづめを備えた耕うん用装置を示す。農業機械100Aに牽引される作業装置106Aは作業ごとに異なるものとなる。作業装置106は動作装置の一例である) 支持装置108は、原動機102Aや伝動装置104、作業装置106Aをそれぞれ適所に保持する部分である。

ステレオカメラ装置110は、2つの光学系と撮像素子を備え、主として測距のためのステレオ画像を取得するための撮像センサ装置である。このステレオカメラ装置110は、農業機械100の進行方向にある障害物や作業対象を検知したり、測定対象までの距離や対象の大きさを検知したりするのに使われる装置であり、農業機械100Aの自動走行に大きな役割を果たすものである(距離(視差を含む)や大きさは第二のデジタル情報又は第四のデジタル情報の一例である)。 このステレオカメラ装置110は農業機械100Aの先頭近傍に、鉛直軸に対して回転可能に設置される。ステレオカメラ装置110の回転は手動または制御装置118Aからの制御により行う。先頭付近に設置することで、前方の画像を取得しやすく、測距精度も高められる。なお、設置位置は先頭近傍に限られず、たとえば、無線通信用アンテナ114やGPS用アンテナ120が設置されている屋根の上のように農業機械100Aの周囲を見渡しやすい箇所に設置してもよい。また、農業機械100A周辺の状況を正確に把握するため、農業機械100Aの前方と後方、または/および側面側など複数設置してもよい。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度の画像を得ることができるように複数軸に対して回転できるものであってもよい。この場合も手動または制御装置118Aによる制御で回転することができる。このステレオカメラ装置110の構成等は後に詳細に説明される。なお、通常の撮像画像よりも高コントラストの撮像画像を得たい場合には、偏光フィルタをステレオカメラ装置110の撮像素子(画像センサ13a、13b)の受光側に設置し、S偏光、P偏光それぞれの偏光画像を取得するようにしてもよい。ステレオカメラ装置110をこのような偏光ステレオカメラ装置にすれば、圃場の畝や霜など通常のカメラでは判別しにくいものを高いコントラストで検出できるので容易に判別することができるようになる。なお、距離を測定する必要がない場合には、ステレオカメラ装置110に代えて撮像素子が一つの偏光カメラ装置を農業機械100に設置してもよい。

本実施形態におけるレーザレーダ装置112は、所定波長のレーザを2次元に走査しながら出力し、物体からの反射光から物体までの距離を認識するセンサ装置である。ライダー(LIDAR:Light Detection And Ranging)装置、レーザレンジファインダー装置ともいう。なお、レーザの走査は1次元とすることも可能である。このレーザレーダ装置112はマルチスペクトルカメラ装置113の上方位置に、鉛直軸に対して回転可能に設置されている。設置場所は、マルチスペクトルカメラ装置113の上方に限られない。たとえば、後述の農業機械100Cでは屋根の上に回転可能に設置されている。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度でレーザの出射、入射を行うことができるように複数軸に対して回転できるものであってもよい。これらの回転動作は手動または制御装置118Aからの制御により行う。このレーザレーダ装置112の構成や動作は後に詳細に説明される。 マルチスペクトルカメラ装置113は物体からの分光情報を取得する撮像センサ装置であり、農作物生育状況等を取得することができる。このマルチスペクトルカメラ装置113は鉛直軸に対して回転可能に設置されており、近傍にレーザレーダ装置112を備えている。このように近傍のレーザレーダ装置112から所望の波長のレーザ光を出射して、その反射率を撮像画像という面で把握することができるので、農作物の正確な生育状況を観測することができる。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度の画像を得ることができるように複数軸に対して回転できるものであってもよい。これらの回転動作は手動または制御装置118Aからの制御により行う。なお、レーザレーダ装置112のレーザ光の反射を用いて分光情報を得ない場合には、レーザレーダ装置112の近傍に設ける必要はない。

無線通信用アンテナ114は、他の農業機械100や圃場モニタリング装置500、状態モニタリング装置550、無線アクセスポイント700などと無線通信で情報を送受信するためのアンテナである。無線信号を受信しやすいよう農業機械100Aの屋根に取り付けられている。この無線通信用アンテナ114は無線の中継も行うことができる。

手動操作部116は農業機械100Aを手動により操作する部分である。後述の舵取り装置122の一部であるステアリングハンドルやアクセルペダル、ブレーキペダル、運転席などを含む。

制御装置118Aは、原動機102A、伝動装置104、作業装置106A、ステレオカメラ装置110、レーザレーダ装置112、無線通信用アンテナ114、手動操作部116、舵取り装置122等と情報のやり取りを行い、農業機械100Aの制御を行う。制御装置118Aは、作業装置106との情報のやり取りで作業装置106Aを特定することができる。この制御装置118Aは、農業機械100Aの内部に設置されている。制御装置118Aは、照明灯124や農業機械100の進行方向の方位などを検知できる地磁気センサ、対象に対して音による威嚇を行う警笛等にも電気的に接続されており、それらの制御を行う。また、制御装置118Aは、無線通信用アンテナ114を介してサーバー704やユーザ端末710、712と通信することができる。なお、制御装置118Aは、CPUやRAM、ROM、メモリ等から構成されており、メモリに格納されたプログラムに基づいてCPUが制御処理を実行する。

GPS用アンテナ120は、農業機械100の絶対位置を認識するために4つの衛星からGPS信号を受信するためのアンテナである。GPS信号を受信しやすいよう農業機械100Aの屋根に設置されている。このように農業機械100Aは、GPS衛星を利用して位置を特定できるので、たとえば、農業機械100Aが盗難にあった場合にも、ネットワーク環境が整っていれば、その位置を特定でき、当該農業機械100Aを容易に発見することができる。なお、このGPS用アンテナ120は、このGPS信号に換えて、またはGPS信号とともに、絶対位置が分かっている圃場モニタリング装置500や状態モニタリング装置550など3つ以上の装置から無線信号を受信するものであってもよい。この場合、その受信信号の減衰、または送信から受信までに要する時間や遅延時間から現在の絶対位置を特定してもよい。特に圃場が室内の場合などGPS信号の取得が困難な場合に有効である。

舵取り装置122は、ステアリングハンドルやステアリングギアボックス、両前輪をつなぐタイロッド、アームなどから構成され、農業機械の旋回を行う装置である。ステアリングハンドルの操作または制御装置118からの制御信号に応じて前輪の向きを変更する。

照明灯124は、夜間照明や対象に対する光による威嚇などのために農業機械100Aの前方を明るくするライトである。

超音波ソナー装置126は、弾性波(音波)を物体にあて、その反射波の検出までの時間を測定することでその物体までの距離を認識するセンサ装置である。主としてステレオカメラ装置110が捉えられない死角における障害物などとの距離計測に使われる。超音波ソナー装置126が測定する超音波情報は、第二のデジタル情報、第四のデジタル情報の一例である。

前輪128は、農業機械100Aの移動や舵取り装置122の操作により農業機械100Aの旋回動作を行うためのものである。

後輪130は、伝動装置104において原動機102Aの動力発生源で発生した動力が最終的に伝達される箇所で、これらが回転することで農業機械100Aが前後に動くことになる。

なお、本実施形態における農業機械(トラクター)100Aは、農業機械100Aの外から情報を取得するためのセンサ装置として、ステレオカメラ装置110、レーザレーダ装置112、マルチスペクトルカメラ装置113、超音波ソナー装置126を備えるが、すべて備えていなければならないわけではなく、行いたい作業に応じて使用するセンサ装置を設置すればよい。また、当然、これらのセンサ装置以外のセンサ、たとえば、赤外線センサや温度センサ、湿度センサなどを備えていてもよい。それらのセンサで取得した情報は、サーバー704に送信される。サーバー704は、データベース708にそれらの情報を保管し、収穫時期などの予測に利用する。

図4は、他の農業機械100Bを示す。100Bもトラクターである。100Aと異なる点は、100Bには手動操作部116がない点である。すなわち、100Bは遠隔操作または自動制御により作業を行う農業機械である。また、この農業機械100Bはステレオカメラ装置110が前後左右に設置されており、それらが撮像する画像に基づいても走行や作業が行える。このため、農業機械100Aと比較すると、より自動操作や遠隔操作を容易にするものであるといえる。なお、農業機械100Bの前後に設置されたステレオカメラ装置110の上方にはひさしを設けており、これによって雨や雪などからステレオカメラ装置110を汚れにくくしている。

農業機械100Bに内蔵された制御装置118Bは、農業機械100Aにある手動操作部116との接続が不要となる。一方で、複数のステレオ画像を処理しなければならないため、制御装置118Bが処理しなければならない情報量は大きくなるので、制御装置118Aより高性能なCPUを搭載するか、複数のCPUを搭載している。

また、農業機械100Bは、農業機械100Aの舵取り装置122のうち、ステアリングハンドルやステアリングギアボックスなど手動操作に必要な構成は省かれている。

図4における作業装置106は播種装置であるが、これに限定されるものではなく、農業機械100Aと同様に幅広い作業装置を連結し、作業を行うことができる。

なお、図4中、他の符号をつけた構成は、農業機械100Aと同様の機能を発揮するので、説明は省略する。

なお、無線通信用アンテナ114(および制御装置118B)は、無線アクセスポイントとして機能する。これにより、農業機械100を無線通信の中継ポイントとすることができ、無線通信可能な領域を拡大することができる。

また、図3や図4に示すように農業機械100は本体部分と作業装置106を別体として説明したが、それらが一体化したものであってもよい。また、農業機械100が複数種類の作業を行うために複数の作業装置106を連結するものであってもよい。

<伝動装置> 図5は、図3または4の伝動装置104を詳細に説明する図である。この伝動装置104が農業機械100や作業装置106を移動させるための手段となる。図中の実線は運動エネルギーの伝達を、破線は電気信号の伝達を、一点鎖線は電気の供給線を示す。図5は原動機102の動力発生源が内燃機関(エンジン)であり、後輪二輪駆動の例である。原動機102の動力発生源が電気モータの例は図6に示す。なお、駆動方式は二輪駆動に限られず、四輪駆動でもよい。

伝動装置104は、後輪130、主クラッチ202、変速装置204、差動装置206、ブレーキ装置208、214、終減速装置210、216、PTO(Power Take Off)変速装置220、PTO軸222、バッテリ224を備える。

主クラッチ202は、エンジンで発生した動力の伝達を断続させる装置である。エンジン始動やエンジンをつけた状態で走行を停止したり、変速したりする場合に操作される。この主クラッチ202は、走行装置とPTOの動力を同時に断続できるものであるが、走行クラッチとPTOクラッチを別ペダルとレバーで断続するものであってもよい。

変速装置204は、エンジンの動力を、走行状態や作業状態に応じた回転速度とトルクに変換する装置である。トラクターの後退やエンジンが回転状態での農業機械100の停止を行うために必要な装置である。

差動装置206は、農業機械100の旋回を容易にするために左右で異なる速度で回転させ、車輪のすべりをなくすための装置である。

ブレーキ装置208、214は、ブレーキペダルが踏み込まれた場合や制御装置118からの制御信号に応じて運動エネルギーを吸収して走行速度を下げたり、走行を停止したりするときに使用する装置である。

終減速装置210、216は、変速装置204と差動装置206のかさ歯車で減速された回転速度をさらに減速して車軸の駆動力をより大きくするための装置である。

PTO変速装置220は、エンジンの動力の一部を取り出す動力取り出し装置の変速を行うものである。

PTO軸222は、エンジンの動力の一部を取り出すための駆動軸で、作業装置106の動力源として利用するものである。

バッテリ224は、電気を化学エネルギーとして蓄えるものである。再び電気エネルギーとして取り出すことでエンジン点火、始動、照明灯124、制御装置118などの電源となる。

制御装置118で制御可能な装置にはバッテリ224から電気が供給できる。そして、電気エネルギーを運動エネルギーに変換する等して装置を制御する。原動機102では、制御装置からの制御信号に基づいて燃料の供給量やタイミングを制御して、ピストンの往復運動を変化させ、運行速度を調整する。変速装置204や220では、制御信号に基づいて電気エネルギーがアクチュエータを駆動しギアを入れ換え、変速や後退の制御を行う。ブレーキ装置208、214では、制御信号に基づいてアクチュエータを駆動しブレーキをかけて減速したり、走行を停止させたりする。

続いて図6を用いて、農業機械100を電気により駆動させるための伝動装置104(104−2)について説明する。図6は、原動機102−2を原動力として農業機械100を動かすための伝動装置104−2の詳細を示す。図5と同様、実線は運動エネルギーの伝達を、破線は電気信号の伝達を、一点鎖線は電気の供給線を示す。この例も後輪二輪駆動の例であるが、四輪駆動であってもよい。電気駆動にすると後述のように非接触充電方式を用いれば、人手を使わずに自動充電が可能となるので、全体システム1500の自動化を進める上で有効な方式である。

基本的に図5と同様であるが、異なる点を中心に説明を行う。 原動機102−2は、モータコントローラと電動機(モータ)を含むパワーユニットである。この伝動装置104−2は、モータによる回転数や回転方向を制御するので、基本的に図5で説明した変速装置204は不要だが、よりスムーズな走行を行うために変速装置204はあってもよい。

バッテリ224−2はコンバータとバッテリを含むものである。コンバータは交流電圧を直流電圧に変換する。図5のバッテリ224と比べて容量が大きい。このバッテリ224は複数の小型バッテリを組み合わせて構成してもよい。このバッテリ224−2は外部電源226から充電が行われる。なお、外部電源226は、正確には伝動装置104の構成ではないが、電気モータ駆動の農業機械100には必須の要素となる。この外部電源226は、非接触電力伝送技術を採用するので、電気線の接触作業を伴わずにバッテリ224−2充電することができる。なお、コンセントなどを使っての接触型でバッテリ224−2に充電を行うものであってもよい。

図6の作業装置106は、図5のようにPTO軸222ではなく、作業装置等への電源228からの電気エネルギーにより動作させるものである。ただし、図5と同様にPTO変速装置220やPTO軸222を使って作業装置106を動作させてもよい。この場合、図5の伝動装置104で利用してきた従来型の作業装置106をそのまま利用することができる。 電気モータによる駆動では、モータ特性により、モータの回転数が低い場合(すなわち、低速で移動する場合)でもトルクを高くできるので、自動車などと比較して低速で作業を行う農業機械に適している。また、後述のように自動でバッテリ224−2への充電を行うことができるので、一連の農作業について人手をかけずに効率的に行うことが可能となる。なお、伝動装置104−2はモータを車輪内に入れこむ、インホイールモータ方式で駆動するものであってもよい。

<ステレオカメラ装置> A.ステレオカメラ装置の構成 図7は、ステレオカメラ装置110の外観を示す。ステレオカメラ装置110はある領域を撮像して、農業機械100の制御装置118やサーバー704、ユーザ端末710、712に伝達可能な画像データを生成するのに加え、撮像した画像内の各地点におけるステレオカメラ装置110からの距離情報(または視差値情報)を取得するものである。もちろん、距離情報(または視差値情報)も制御装置118等に伝達可能である。このステレオカメラ装置110は、Semi−Global Matching(SGM)法を応用した測距を行うことができる。

ステレオカメラ装置110は、本体部2と、本体部2に設けられた一対の円筒状の撮像装置10aおよび撮像装置10bとを備えている。なお、このステレオカメラ装置110は、回転軸を有する柱によって農業機械100に回転可能に取り付けられる。この回転動作は手動または制御装置118からの制御により行う。

図8は、ステレオカメラ装置110の全体のハードウェア構成を示す。図8に示されているように、ステレオカメラ装置110は、撮像装置10a、撮像装置10b、信号変換装置20a、信号変換装置20b、及び画像処理装置30を備えている。 このうち、撮像装置10aは、前方の光景を撮像して画像を表すアナログ信号(アナログ情報の一例)を生成するものであり、撮像レンズ11a、絞り12a、画像センサ13aを備えている。撮像レンズ11aは、撮像レンズ11aを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り12aは、撮像レンズ11aを通過した光の一部を遮ることによって、後述する画像センサ13aに入力される光の量を調整する。画像センサ13aは、撮像レンズ11a及び絞り12aから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、Charge Coupled Device(CCD)やComplementary Metal Oxide Semiconductor(CMOS)によって実現される。なお、撮像装置10bは撮像装置10aと同じ構成を備えているため、撮像装置10bについての説明は省略する。また、撮像レンズ11aと撮像レンズ11bは、レンズの光軸が互いに平行になるように設置されている。

また、信号変換装置20aは、撮像された画像を表すアナログ信号をデジタル形式の画像データ(デジタル画像情報。第一のデジタル情報、第三のデジタル情報の一例)に変換するものであり、Correlated Double Sampling(CDS)21a、Auto Gain Control(AGC)22a、Analog Digital Converter(ADC)23a、及びフレームメモリ24aを備えている。CDS21aは、画像センサ13aによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。AGC22aは、CDS21aによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ADC23aは、AGC22aによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ24aは、ADC23aによって変換された画像データを記憶する。

同様に、信号変換装置20bは、撮像装置10bによって変換されたアナログの画像信号から画像データを取得するものであり、CDS21b、AGC22b、ADC23b、及びフレームメモリ24bを有している。なお、CDS21b、AGC22b、ADC23b、及びフレームメモリ24bはそれぞれCDS21a、AGC22a、ADC23a、及びフレームメモリ24aと同じ構成であるため、それらについての説明は省略する。

更に、画像処理装置30は、信号変換装置20a及び信号変換装置20bによって変換された画像データを処理するための装置である。この画像処理装置30は、FPGA(Field Programmable Gate Array)31、CPU(Central Processing Unit)32、ROM(Read Only Memory)33、RAM(Random Access Memory)34、I/F(Interface)35及び上記各構成要素31〜35を図8に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン39を備えている。

このうち、FPGA31は、製造後に購入者や設計者が構成を設定できる集積回路であり、ここでは、画像データが表す画像における視差dを算出する処理を行う。CPU32は、ステレオカメラ装置110の各機能を制御する。ROM33は、CPU32が視差値導出装置の各機能を制御するために実行する画像処理用プログラムを記憶している。RAM34はCPU32のワークエリアとして使用される。I/F35は、農業機械100の制御装置118と接続するためのインターフェースである。 なお、上記の画像処理用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、CD−ROMやSDカード等である。

次に、図9は、ステレオカメラ装置110の主要部のハードウェア構成を示す。FPGA31は、図9に示されているように、コスト(一致度または非類似度、類似度)算出部310、コスト合成部320、視差値導出部330を備えている。これらは、FPGAの回路の一部であるが、ROM33に格納された画像処理用プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。

このうち、コスト算出部310は、基準画像内の基準画素の輝度値と、基準画素に対する比較画像内におけるエピポーラ線上の複数の対応画素の候補の各輝度値とに基づいて、基準画素に対する各対応画素の候補のコスト値Cを算出する。

コスト合成部320は、コスト算出部310による一の基準画素に対する各対応画素の候補のコスト値と、コスト算出部310による他の基準画素に対する各対応画素の候補のコスト値とを合成し、合成コスト値Lsを出力する。なお、この合成の処理は、後述の(式3)に基づいてコスト値Cから経路コスト値Lrを算出した後、更に、後述の(式4)に基づいて各放射線における経路コスト値Lrを加算して、最終的に合成コスト値Lsを算出する処理である。

視差値導出部330は、一の基準画素の基準画像における位置と、コスト合成部320による合成後の合成コスト値Lsが最小となる対応画素の比較画像における位置とに基づいて視差値Δを導出し、各画素における視差値を示す視差画像を出力する。ここで得られた視差値Δと、撮像レンズ11aと撮像レンズ11bの焦点距離f、撮像レンズ11aと撮像レンズ11bとの間の長さである基線長Bを用いて、後述の(式2)から距離Zを算出することができる。この距離Zを求める処理は視差値導出部330で行ってもよいし、CPU32またはサーバー704で行ってもよい。このようにしてステレオカメラ装置110は撮像した画像に対する視差を利用して撮像した画像の各地点までの距離情報(または視差値情報)を得ることができる。なお、視差値を求める以外の画像処理や画像認識においては基準画像または比較画像のいずれか一方(すなわち、通常の単眼カメラで撮像した画像と同様に一方の画像センサ13aまたは13bから得られる画像。すなわち2つの画像のうち一種類の画像。)を用いることができる。

また、画像情報による測距のみならず、よりコントラストの高い画像を得る方法としてステレオカメラ装置110は、画像センサ13a及び13bの受光面に、偏光フィルタ40を設置してもよい。この偏光フィルタ40はSub−Wavelength Structure(SWS)偏光フィルタである。偏光フィルタ40には、S偏光成分の光のみを透過する偏光子領域とP偏光成分の光のみを透過する偏光子領域が交互に並べられた構造を有する。一つの偏光子領域の大きさは、画像センサ13a及び13bの受光素子一画素の大きさと同じで、それらの各偏光子領域が各画素上に来るように偏光フィルタ40が設置される。このようにステレオカメラ装置110を構成し、それぞれの偏光子領域を透過した光の受光信号ごとに分けて画像を生成することで、S偏光成分とP偏光成分が分離され、S偏光成分のみの画像とP偏光成分のみの画像が得られる。それぞれの画像が第二のデジタル情報、第四のデジタル情報の一例である。ステレオカメラでは2つの撮像素子を使用するので、S偏光成分のみの画像とP偏光成分のみの画像が2枚ずつ得られ、それぞれ同一の偏光成分のみの画像を比較することで、それぞれ視差値(距離)を求めることが可能である。

偏光画像を得ることで、たとえば黒色の被写体の面方位の違いが検知しやすくなる。これは、被写体からの光の偏光状態が、被写体の面方向に応じて異なるためである。また、偏光画像によれば透明な被写体の有無が検知しやすくなる。これは、透明な被写体を光が通過するとき、光の偏光状態に応じて透過率が変化するためである。すなわち、偏光カメラにすれば、ハイコントラストな画像を得ることができ、輝度画像では得られない情報を得ることができる。このように偏光カメラでは通常のカメラでは、捉えにくい地面におりた霜や植物の葉などついた、葉と同様の色(隠蔽色)をした病害虫、植物の構造体(枝間の長さ等)の検出も可能となる。また、さらには、ステレオカメラ装置110を偏光ステレオカメラ装置とすることで、霜や病害虫などの情報の他、たとえば、凍結した路面の検知と測距を行えたり、圃場のうねを正確に検知しさらに測距が行えたりする。またさらに、偏光フィルタによって偏光画像を得ることで植物の構造体の検出を容易にすることができる。このため、その偏光画像に対する画像認識率も向上し、たとえば枝と枝の間の茎の長さや太さ、葉の大きさなど植物の外観上の特徴もより正確に捉えることができる。したがって、全体システム1500は、このような情報を使うことによって植物の生育状況把握や植物の種類の判別(たとえば農作物か雑草かなど)を行うことができる。なお、距離情報を必要としない場合には、単眼カメラと同様にどちらか一方の画像センサ13aまたは13bから得られた偏光画像情報だけを使えばよい。もちろん、距離情報も使って正確な大きさなどを調べたい場合には2つの撮像素子から得られる情報を使うことになる。

B.SGM法を用いた測距方法の説明 続いて、ステレオカメラ装置110による測距の方法、とくにSGM法を用いて視差値を求める方法について説明する。まず、図10から図15を用いて、SGM法を用いた測距方法の概略について説明する。

図10を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。また、以下では、説明を簡略化するため、所定領域(マッチングブロック)ではなく、一画素単位で説明する。

まず、図10で示される撮像装置10aおよび撮像装置10bによって撮像された各画像を、それぞれ基準画像Iaおよび比較画像Ibとする。なお、図10では、撮像装置10aおよび撮像装置10bが平行等位に設置されているものとする。図10において、3次元空間内の物体E上のS点は、撮像装置10aおよび撮像装置10bの同一水平線上の位置に写像される。すなわち、各画像中のS点は、基準画像Ia中の点Sa(x,y)および比較画像Ib中の点Sb(x',y')において撮像される。このとき、視差値Δは、撮像装置10a上の座標におけるSa(x,y)と撮像装置10b上の座標におけるSb(x',y')とを用いて、(式1)のように表される。 Δ=x'−x (式1) ここで、図10のような場合には、基準画像Ia中の点Sa(x,y)と撮像レンズ11aから撮像面上におろした垂線の交点との距離をΔaにし、比較画像Ib中の点Sb(x',y')と撮像レンズ11bから撮像面上におろした垂線の交点との距離をΔbにすると、視差値Δ=Δa+Δbとなる。

また、視差値Δを用いることで、撮像装置10a,10bと物体Eとの間の距離Zを導き出すことができる。具体的には、距離Zは、撮像レンズ11aの焦点位置と撮像レンズ11bの焦点位置とを含む面から物体E上の特定点Sまでの距離である。図10に示されるように、撮像レンズ11a及び撮像レンズ11bの焦点距離f、撮像レンズ11aと撮像レンズ11bとの間の長さである基線長B、及び視差値Δを用いて、(式2)により、距離Zを算出することができる。 Z=(B×f)/Δ (式2) この(式2)により、視差値Δが大きいほど距離Zは小さく、視差値Δが小さいほど距離Zは大きくなる。

続いて、図11から図15を用いて、SGM法を用いた測距方法について説明する。なお、図11(a)は基準画像、図11(b)は、比較対象として、(a)に対するエッジ検出法による視差画像、図2(c)は(a)に対するSGM法による視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。エッジ検出法による視差画像は、エッジ検出法から導き出された画像であり、基準画像のエッジ部の視差値を示した画像である。SGM法の応用による視差画像は、SGM法の応用技術によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。図11(c)では色の濃淡により視差値の違いを示している。本例では、色が濃くなるにつれて視差値が小さくなることを示す。すなわち、色が濃くなるにつれて距離が長くなる。

SGM法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図11(a)に示されている基準画像に基づいて、図11(c)に示されているSGM法による視差画像を導き出す方法である。なお、エッジ検出法を用いた場合には、図11(a)に示されている基準画像に基づいて、図11(b)に示されているエッジ視差画像が導き出される。図11(b)及び図11(c)における破線の円内を比べると分かるように、SGM法による視差画像は、エッジ検出法による視差画像に比べて、テクスチャが弱い領域等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。

このSGM法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、更に、合成非類似度である合成コスト値(Synthesis Cost)を算出することで視差値を導出し、最終的に全ての画素における視差値を示す視差画像(ここでは、SGM法による視差画像)を導き出す方法である。なお、エッジ検出法の場合は、コスト値を算出する点はSGM法と同じであるが、SGM法のように、合成コスト値を算出せずに、エッジ部の視差値のみを算出する。

次に、図12及び図13を用いて、コスト値C(p,d)の算出方法について説明する。図12(a)は基準画像における基準画素を示す概念図、図12(b)は(a)の基準画素に対して比較画像における対応画素の候補を順次シフトしながら(ずらしながら)シフト量(ずれ量)を算出する際の概念図である。図13は、シフト量毎のコスト値を示すグラフである。

図12(a)に示されているように、基準画像内の所定の基準画素p(x,y)と、この基準画素p(x,y)に対する比較画像内におけるエピポーラ線(Epipolar Line)上の複数の対応画素の候補q(x+d,y)との各輝度値に基づいて、基準画素p(x,y)に対する各対応画素の候補q(x+d,y)のコスト値C(p,d)が算出される。dは、基準画素pと対応画素の候補qのシフト量(ずれ量)であり、本実施形態では、画素単位のシフト量が表されている。即ち、図12では、対応画素の候補q(x+d,y)を予め指定された範囲(例えば、0

次に、図14及び図15を用いて、合成コスト値Ls(p,d)の算出方法について説明する。図14は、合成コスト値を導き出すための概念図である。図15は、視差値毎の合成コスト値を示すグラフである。本実施形態における合成コスト値の算出は、SGM法に特有の方法であり、コスト値C(p,d)の算出だけでなく、所定の基準画素p(x,y)の周辺の画素を基準画素とした場合のコスト値を、基準画素p(x,y)におけるコスト値C(p,d)に集約させて、合成コスト値Ls(p,d)を算出する方法である。

ここで、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ls(p,d)を算出すためには、まず、経路コスト値Lr(p,d)を算出する必要がある。(式3)は、経路コスト値Lr(p,d)を算出するための式であり、(式4)は、合成コスト値Lsを算出するための式である。 Lr(p,d)=C(p,d)+min{(Lr(p−r,d),Lr(p−r,d−1)+P1,Lr(p−r,d+1)+P1,Lrmin(p−r)+p2} (式3) ここで、rは、集約方法を示す。min{}は、最小値を求める関数である。Lrは、式3に示されているように再帰的に適用される。また、P1及びP2は、予め実験により定められた固定パラメータであり、基準画素p(x,y)から離れた画素ほど、経路コスト値Lrに影響を与えないようなパラメータになっている。例えば、P1=48、P2=96である。 また、(式3)に示されているように、Lr(p,d)は、基準画素p(x,y)におけるコスト値Cに、図14に示されているr方向の各画素における各画素の経路コスト値Lrの最小値を加算することで求められる。このように、r方向の各画素におけるLrを求めるため、最初は、基準画素p(x,y)のr方向の一番端の画素からLrを求め、r方向に沿ってLrが求められる。 そして、図14に示されているように、8方向のLr0,Lr45,Lr90,Lr135,Lr180,Lr225,Lr270,Lr315求められ、最終的に(式4)に基づいて、合成コスト値Lsが求められる。 Ls(p,d)=ΣLr (式4) このようにして算出された合成コスト値Ls(p,d)は、図15に示されているように、シフト量d毎に示されるグラフによって表すことができる。図15では、合成コスト値Lsは、シフト量d=3の場合が最小値となるため、視差値Δ=3として算出される。

なお、SGM法はエッジ検出法に比べて処理時間がかかるので、測距の精度よりも処理を迅速に行う必要がある場合には、エッジ検出法により測距を行うようにしてもよい。この場合、図9におけるコスト合成部320の処理を行わず、視差値導出部330では、最小のコスト値からエッジ部の視差値のみ導出するようにする。

なお、本実施形態におけるステレオカメラ装置110で測定可能な距離は、105mであり、誤差は数cmである。

なお、ステレオカメラ装置110に撮像される物体が認識し、その距離がわかれば、その物体の大きさや長さがわかる。すなわち、ステレオカメラ装置110のROM33はその距離と一画素あたりの大きさおよび長さの関係のテーブルを記憶しているので、CPU32はその物体の大きさや長さも特定することができる。なお、ROM33が記憶しているのはテーブルでなく、距離と一画素あたりの関係式であってもよい。さらに、ステレオカメラ装置110内の処理ではなく、上記のようなテーブル等の大きさや長さの算出に必要なデータを有する、サーバー704や農業機械100の制御装置118が物体の大きさや長さを算出するものであってもよい。

<レーザレーダ装置> 図16はレーザレーダ装置112の構成を示す。レーザレーダ装置112による形状情報は第一のデジタル情報、第三のデジタル情報の一例である。また、レーザレーダ装置112による距離情報は第二のデジタル情報、第四のデジタル情報の一例である。レーザレーダ装置112は、パルスレーザ光を対象物へ照射し、反射したパルスレーザ光の帰還時間tを計測し、その照射点までの距離Lを(式5)を使って算出する。 L=c×t/2 (式5) ただし、cは光速 さらにレーザレーダ装置112は二次元方向にレーザ光をスキャンできるので、対象物各点への方位を求め、対象物の形状の測定を行うこともできる。

レーザレーダ装置112は、本体部50の中に、レーザダイオード駆動回路51、レーザダイオード52、投光レンズ53、2つの反射ミラー68、70、遥動モータ54、ポリゴンミラー55、受光レンズ56、フォトダイオード58、増幅回路60、時間間隔カウンタ61、モータ制御回路62、制御器64、及び、レーザ光出射入射窓66を有する。

レーザダイオード駆動回路51は、レーザダイオード52に入力するパルス信号を生成する。レーザダイオード52はパルスレーザ光を出射する。投光レンズ53はレーザダイオード52から発振されたパルスレーザ光を平行光にする。この平行光は、反射ミラー68、70によりパルスレーザ光の進行方向を変化させられた後、制御器64に制御されるモータ制御回路62によりθ軸周りに一定速度で回転するポリゴンミラー55に入射される。ポリゴンミラー55は、制御器64に制御されるモータ制御回路62によって所定の速度で遥動する遥動モータ54を使ってφ軸を中心に遥動する。これにより、ポリゴンミラー55に入射するレーザ光は二次元方向に走査され、レーザ光出射入射窓66を経由して対象物に照射される。また、制御器64は、不図示の水準器からの信号を取得し、レーザ光が常に水平方向に出射されるようにモータ制御回路62に指令を出し、遥動モータ54を動作させφ軸の回転を制御することができる。対象物から反射されたパルスレーザ光は、ポリゴンミラー55を介して受光レンズ56で集光され、フォトダイオード58で受光され、電気信号に変換される。変換された電気信号は増幅回路60で増幅された後、時間間隔カウンタ61により、レーザダイオード52のパルス発振タイミングと同期したスタートパルスと増幅回路60から出力されたストップパルスの時間間隔を計測する。制御器64は、計測された帰還時間t、ポリゴンミラー55の回転角度θ、遥動角度φを極座標系データ(t、θ、φ)とし、さらにその極座標データをレーザレーダ装置112の設置位置を原点とする三次元空間データ(X、Y、Z)へ変換することで対象物の形状を求める。

制御器64で得られた情報は、農業機械100の制御装置118、サーバー704、ユーザ端末710、712へ伝達可能である。

このレーザレーダ装置112を水平面に設置した場合、水平画角として約60度、垂直画角として約30度、計測範囲は水平面において約60mの範囲で計測が可能となる。なお、計測範囲は、レーザダイオード52の種類やレーザダイオード駆動回路51の出力電圧などにより変化する。

また、対象物への距離だけを求める場合や、二次元方向のレーザ光走査が不要な場合には、遥動モータ54によるポリゴンミラー55の遥動は行わない。この場合、ポリゴンミラー55のθ軸を中心として回転により、一次元方向へのレーザ光走査が行われる。

また、使用するレーザダイオード52は、作業目的に応じて選択される。たとえば、植物の葉の状態から植物の活性度についてマルチスペクトルカメラ装置113と組み合わせてアクティブ方式で計測したい場合には、波長が660nm付近の可視赤域のレーザ光を出射できるレーザダイオード52が使用される(マルチスペクトルカメラ装置113を使って植物の活性度を調べる方法については後述する)。このようにレーザレーダ装置112をマルチスペクトルカメラ装置113と組み合わせて利用する場合には、レーザレーダ装置112から出射されるレーザを利用することになるので両者を接近させて配置するのがよい。一方で、レーザレーダ装置112単独で作業を行う場合には、両者を接近させて配置する必要性はない。なお、遥動モータ54、ポリゴンミラー55を使用するかわりに、二次元で走査可能なMicro Electro Mechanical Sytems(MEMS)ミラー装置によって、レーザ光走査を行ってもよい。

さらに、レーザレーダ装置112は、ミラーを動かしてレーザを走査せずにグレーティングなどの固定の光学素子でレーザ光を偏向する非走査型レーザレーダ装置により構成してもよい。このように非走査型レーザレーダ装置にすれば、駆動箇所を少なくできるのでとくに移動時に上下動が激しい場合であっても故障を減らすことができる。

なお、本実施形態における農業機械100では、レーザレーダ装置112は、マルチスペクトルカメラ装置113に近接する位置に回転可能に設置されている。この回転動作は手動または制御装置118からの制御により行う。

<マルチスペクトルカメラ装置> 図17にマルチスペクトルカメラ装置113の外観を示す。マルチスペクトルカメラ装置113による分光情報は第二のデジタル情報、第四のデジタル情報の一例である。このマルチスペクトルカメラ装置113は、撮像画像と撮像された画像における分光反射率を得ることができるカメラ装置である。このマルチスペクトルカメラ装置113は、ある一点ではなく、ある範囲(領域、面)における植物の状態を非接触・非破壊で一度に検出するのに適している。マルチスペクトルカメラ装置113は、本体部400と鏡筒部402を有する。このマルチスペクトルカメラ装置113は回転可能に農業機械100に設置される。この回転動作は手動または制御装置118からの制御により行う。これによって、農業機械100周辺に対してさまざまな方向にある対象物の反射光を撮像し、植物活性度や枝間の長さや葉の大きさなど育成状況を把握することができる。

図18はこのマルチスペクトルカメラ装置113の構成を示す図である。左が正面図、右が側面からみた断面図である。本体部400は、マイクロレンズアレイ414、受光素子アレイ416、FPGA418、分光反射率算出部420を有する。鏡筒部402は、発光ダイオード(Light Emitting Diode:LED)404、メインレンズ408、絞り409、フィルタ410、及び、集光レンズ412を有する。

マイクロレンズアレイ414は、複数の小レンズが二次元方向に配列された光学素子である。受光素子アレイ416は、複数の受光素子を有し、受光素子(以下「画素」という場合がある)ごとのカラーフィルタが実装されていないモノクロセンサである。受光素子アレイ416は、光情報を電気情報に変換するセンサである。

FPGA418は、受光素子アレイ416から出力される分光情報である電気情報に基づいて複数種類の分光画像を生成する分光画像生成部である。

分光反射率算出部420は、CPUやROM、RAMなどの半導体素子から構成されており、FPGA418で生成された分光画像から画素ごとの分光反射率を算出する。

このマルチスペクトルカメラ装置113からの出力は、FPGA418で生成された複数種類の分光画像とそれらの分光画像の各画素の分光反射率である。これらの情報が農業機械100の制御装置118、サーバー704、ユーザ端末710、712や状態モニタリング装置550の制御部等に伝達される。

LED404は、鏡筒部402の先端部に等間隔に埋設状態で複数配置された光源である。LEDを光源とすることによって、撮影環境の影響を受けにくくなり、安定した分光情報を得ることが可能となる。メインレンズ408は物体406からの反射光を絞り409を経由してフィルタ410に導くレンズである。絞り409は、通過する光の量を調整するために用いる遮蔽物である。フィルタ410は、分光透過率が空間的に連続的に変化する。すなわち、フィルタ410は複数の分光特性を有する。なお、フィルタ410の分光透過率の連続性の方向性は、1つの面内であれば限定されない。例えば、メインレンズ408の光軸に直交する面において、図18の右図中の上下方向、又はこれに直交する方向、あるいは斜めに交差する方向などで連続性を有していればよい。集光レンズ412は、フィルタ410を通過した光をマイクロレンズアレイ414に導くためのレンズである。

LED404やその他の光を受けた物体406からの反射光は、メインレンズ408に入射する。このメインレンズ408に入射した光束が分光反射率測定の対象となる。メインレンズ408に入射した光束は無数の光線の集合であり、それぞれの光線は絞り409の異なる位置を通過する。メインレンズ408で集光された前記反射光は、絞り409で通過する光量が調整され、フィルタ410に入射する。なお、本実施形態では絞り409はフィルタ410上に存在するが、これに限られない。フィルタ410に入射した各光線は異なる分光透過率のフィルタを通過する。フィルタ410を通過した光線は、集光レンズ412により集光され、マイクロレンズアレイ414付近でいったん結像する。なお、メインレンズ408の光軸と直交する方向に複数のマイクロレンズ(小レンズ)が配置されるようにマイクロレンズアレイ414は設置される。いったん結像した各光線はマイクロレンズアレイ414によって、それぞれ受光素子アレイ416の別の位置に到達する。すなわち、受光素子アレイの受光面の位置は光線が通過したフィルタ410の位置に対応するので、物体406のある一点の分光反射率を同時に測定することができる。

図19は、本実施形態に用いられるフィルタ410及び絞り409の正面図である。フィルタ410の下部が短波長、上部が長波長の分光透過率ピークを持つ。この場合、撮影画像は、図20に示すように、小さな円が並んだものとなる。円になるのはメインレンズ408の絞り409の形状が円であるためである。それぞれの小さな円を、ここでは「マクロピクセル」と呼ぶこととする。マクロピクセルを全て集めると1つの画像となる。各マクロピクセルは、マイクロレンズアレイ414を構成する各小レンズ(マイクロレンズ)の直下に形成される。マクロピクセルの径とマイクロレンズの径はほぼ同じである。

図18に示すように、マクロピクセルの上部はフィルタ410の下部を通過してきた光線が到達し、下部にはフィルタ410の上部を通過してきた光線が到達する。フィルタ410の下部が短波長、上部が長波長の分光透過率を持つような配置とすると、それに対応するように、マクロピクセルの上部には短波長、下部には長波長の光線が到達する。FPGA418は、波長ごとの光線が到達する画素からの分光情報から分光画像を生成する。これにより所望の波長に対する分光画像が複数得られる。分光反射率算出部420は、各マクロピクセルの行ごとの平均値を算出し、LED404等の照明の分光強度、メインレンズ408、集光レンズ412の分光透過率、フィルタ410の分光透過率、受光素子アレイ416の分光感度を考慮して計算することで分光反射率を求めることができる。

マクロピクセルの拡大図を図21示す。ここでは、一つのマクロピクセルが19×19の画素の場合を考える。この一つのマクロピクセルから物体406のある点の分光反射率を求める。まず、最も短波長(λs)側の反射率を求める手順を述べる。マルチスペクトルカメラ装置113から得られるデータは受光素子からの出力値であり、出力値は受光素子に入射する光線量に対応している。光線量はLED404等の照明の分光強度、物体406の分光反射率、光学系(メインレンズ408、集光レンズ412等)の分光透過率、フィルタ410の分光透過率、受光素子アレイ416の分光感度の5つの特性の波長λsにおける値の積である。よって、物体406のλsにおける反射率を求めるには、出力値を分光反射率以外の4つの値で除算すればよい。

ここでの出力値には、図21の最下段の行の画素19個の出力値の総和をマクロピクセルが形成されている面積で除した値を用いる。マクロピクセルが形成されている面積とは、図21中黒く塗りつぶされている領域以外の光線が届いている面積のことである。これは各行の出力値を規格化するためである。以上の手順でλsでの反射率の相対値を得ることができる。絶対値は別途校正が必要となる。LED404等の照明の分光強度、メインレンズ408、集光レンズ412の分光透過率、フィルタ410の分光透過率、受光素子アレイ416の分光感度、マクロピクセルの各行の面積は設計時に既知である。以上の処理をマクロピクセルの各行に対して適用することで19の波長における反射率を得ることができる。

その測定結果の一例を図22に示す。横軸が波長、縦軸が分光反射率の相対値である。以上が一つのマクロピクセルに対する処理であり、全てのマクロピクセルに対して同じ処理を適用することで、二次元分光反射率を測定することが可能となるフィルタ410は、光学ガラスなどの透明基板に、薄膜を厚みがくさび状に変化するように蒸着することで作製することができる。本実施形態における薄膜の材質は五酸化ニオブであり、短波長側の材質は五酸化タンタルである。薄膜の膜厚は数十〜数百nmである。膜厚の薄いほうが短波長、厚いほうが長波長に対応する。薄膜の厚みがくさび状(無段階)に変化するため、分光透過率も連続的に変化する。

光の干渉により分光透過率を制御しているので、透過光が強め合う条件が分光透過率のピーク波長に相当する。透明基板の厚みは、フィルタの保持が可能であればよい。絞り位置付近にレンズが近接している設計のレンズもあり、その場合は薄いほうがよい。例えば0.5mm程度である。上記のように、連続的な分光透過特性をもつフィルタ410を利用することで、連続的な分光反射率を撮影と同時に直接得ることができる。これにより、推定処理は不要となり、ノイズに対するロバスト性の高い二次元分光反射率を測定することができる。

次に図23を使って、本実施形態のマルチスペクトルカメラ装置113に使用可能なフィルタの他の例を説明する。図23(a)のフィルタ430は、透過帯域毎に分割した構成を有している。すなわち、フィルタ430は、400nmから500nmの波長域に対応するフィルタ430aと、500nmから600nmの波長域に対応するフィルタ430bと、600nmから700nmの波長域に対応するフィルタ430cとから構成されている。したがって、フィルタ430は、紫外域あるいは赤外域においても連続的に分光透過率が変化するフィルタである。各フィルタ430a、430b、430cは、それぞれ空間的に連続的に分光透過率が変化するフィルタである。ここでは、図中上から下に向ってそれぞれ波長が大きくなっている。各フィルタ430a、430b、430cの長手方向の向きは統一する必要はない。要するに、分光透過率が連続的に変化する領域が存在すればよく、方向性は関係ない。また、各フィルタ430a、430b、430cは上記構成に限定されず、各々異なる波長域を少なくとも一部に有していればよい。各透過帯域は一例であり、これらの値に限定される趣旨ではない。このようにフィルタを分割することで、1画素に対応する波長幅を狭くすることができる。すなわち、波長的な分解能が高い分光反射率測定が可能となる。また、分割して配置することにより、細長いフィルタに比べ、狭い絞り径内で分光透過率の連続性を確保することができる。

なお、光を効率的に使うため、絞り409の形状を四角などの多角形やその他所望の形状に形成してもよい。

図24は、植物の葉に対する典型的な分光反射スペクトルを示す。実線は正常な葉(植物活性度が高い)、破線は枯れている葉(植物活性度が低い)のスペクトルである。この図の実線が示すように、植物活性度が高い正常な葉では波長が660nm近辺の可視赤域(およびそれよりも短い波長領域)で葉緑体の一種であるクロロフィルの吸収により反射率が低い。一方、近赤外域の700nmから1100nmでは反射率が高い。一方で植物活性度の低い枯れた葉では、クロロフィルが分解するため、可視赤域での吸収があまり行われずに正常な葉に比べて反射率が高くなる。なお、この傾向は植物の種類を問わず、同様であることが分かっている。そこで、可視赤域での分光反射率Rと近赤外域IRでの分光反射率から(式6)を用いて正規化植生指数(Normalized Difference Vegetation Index:NDVI)を求めることができる。 NDVI=(IR−R)/(IR+R) (式6) 通常、正規化植生指数NDVIは−1から+1までの値があり、値が大きいほど植物の活性度が高いことを示す。マルチスペクトルカメラ装置113を使えば、理論的には撮像領域すべてにおいて、この正規化植生指数NDVIを求めることができる。すなわち、図23(b)のフィルタ440のように、可視赤域の660nmの波長域に対応するフィルタ440aと、近赤外域である770nmの波長域に対応するフィルタ440bを本実施形態のマルチスペクトルカメラ装置113のフィルタとして採用する。なお、近赤外域として、785nmや900nmの波長域に対応するフィルタをフィルタ440bに採用してもよい。この場合、785nmはレーザダイオード(LD)で容易に得られる波長である。LED404の半分は波長が660nm付近の強度が高い光を照射するものを、残りの半分は波長が770nm付近で強度の高い光を照射できるものを設置する。このような構成で、マルチスペクトルカメラ装置113で対象の植物にLED光の照射を行い、反射光の撮像を行う。そして、FPGA418で波長660nmにおける分光画像と波長770nmにおける分光画像を得る。分光反射率算出部420によりそれらの分光画像内の所望の位置または領域における分光反射率を求める。さらに、分光反射率算出部420内のCPUは(式6)を適用して正規化植生指数NDVIを得る。なお、マルチスペクトルカメラ装置113内ではなく、分光画像や分光反射率情報を取得した農業機械100の制御装置118またはサーバー704が(式6)を適用し、正規化植生指数NDVIを求めてもよい。なお、農作物ごとの正規化植生指数NDVIはデータベース708に送られ、蓄積される。なお、正規化植生指数NDVIではなく、可視赤域(たとえば660nm)の波長の分光反射率だけを用いて植物の育成状況を把握してもよい。この可視赤領域において、植物活性度の違いによる分光反射率の変化が大きいからである。これにより、生育状況を把握できるとともに近赤外域における分光反射率の測定や正規化植生指数NDVIの算出を省略でき、処理や判断の迅速化を図ることができる。一方、正規化植生指数NDVIを求めれば、正規化されたより精密な育成状況(植物活性度)の情報を得ることができる。

また、正規化植生指数NDVIの経日観測によって、収穫時期を正確に予期できる。たとえば、葉物野菜の場合、正規化植生指数NDVIが最大時(植物活性度が最も高いとき)に収穫することが望ましい。この正規化植生指数NDVIの最大値や最大をむかえる日は作物ごとに異なるので、植物ごとに収穫が望まれる正規化植生指数NDVIの範囲を決める。これにはデータベース708に蓄積された正規化植生指数NDVIのデータを使って、サーバー704あるいはユーザ端末710、712で行うことができる。たとえば、実験的に正規化植生指数NDVIの極大値を過ぎるような同種の農作物を複数観測し、そのばらつき度合い等から収穫すべき正規化植生指数NDVIの範囲(たとえば、レタスについては正規化植生指数NDVIが0.5から0.55)を決める。そして、マルチスペクトルカメラ装置113等で求めた正規化植生指数NDVIがその範囲内にある農作物を収穫すればよい。さらに、蓄積したデータから統計的に農作物ごとの正規化植生指数NDVIの経日変化の傾向を求めることで収穫時期を予測できる。

さらに、マルチスペクトルカメラ装置113によれば、色から成果物(果実)などの品質(糖度)の判定を行うことができる。この場合、図23(a)の透過帯域(400nmから500nm(430a)、500nmから600nm(430b)、600nmから700nm(430c))毎に分割されたフィルタ430を使用し、さらに受光素子アレイ416の受光素子(画素)ごとにベイヤー配列でRGBのカラーフィルタが配置されたカラーセンサを利用する。このRGBカラーフィルタは、B(ブルー)では470nm付近に、G(グリーン)では540nm付近に、R(レッド)では620nm付近にそれぞれスペクトルのピーク(最大値)を有している。フィルタ430を構成する各フィルタ(430aと430bと430c)と、カラーセンサにおけるフィルタ440を構成するRGBの各フィルタの分光特性はそれぞれ異なっている。フィルタ430を構成する各フィルタと、カラーセンサにおけるフィルタ440を構成する各フィルタを光線が通過することで、3×3=9種類のバンドパスフィルタを通ったのと同様の分光情報を同時に取得することができる。 しかしながら、厳密には、各々のフィルタの分光透過領域の部分のみ光は透過することができるため、本実施形態では実質的に、6種類の分光情報を取得することとなる。このように6種類の分光情報を得られれば、自然界のスペクトルを精度良く計測することができ、撮像した色を正確に認識することが可能となる。このマルチスペクトルカメラ装置は、可視光を精度よく測定できる測色カメラ装置を構成する。たとえば、ある種のイチゴのように熟して赤くなるほど糖度が増す果実では、マルチスペクトルカメラ装置(測色カメラ装置)113でその果実全体の分光画像における可視赤域における分光反射率を求めることができるので、その糖度の評価を行うことができる。

さらに、モモ果実のように果皮が薄い果実に対して、マルチスペクトルカメラ装置113によって近赤外領域の分光反射率を測定してそのスペクトル分布から糖度を評価することができる。

さらに、マルチスペクトルカメラ装置113によれば、非破壊・非接触で植物の緑葉などが含有する水分量を測定することができる。これは植物において水分が不足するとその植物に水分ストレスがかかり、緑葉の表面の分光特性が変化するので、この変化をとらえることによって水分量を測定するものである。図24に示すように可視赤域から近赤外域にかけて反射率が急に高まる領域(レッドエッジ)がある。植物は水ストレスがかかるとこの反射率が高まる領域が波長の短い青色側(左側)にずれることがわかっている(ブルーシフト)。図24の点線は水ストレスを与えた場合のブルーシフトの様子を示す。このずれ量を検出できれば植物の葉内の水分量(水ストレスのかかり具合)を特定できる。そこで、この水ストレスの度合いを検出するために、マルチスペクトルカメラ装置113は、可視赤域から近赤外域にかけて反射率が急に高まる領域の複数の波長における反射率を測定するため、その複数の波長域に対応できる分光フィルタを備える。たとえば、その分光フィルタは、フィルタ410のように可視赤域から近赤外域にかけて連続的に変化するものであってもよいし、所望の波長(たとえば、715nm、740nm)を選択して透過させるフィルタであってもよい。

これら可視赤域から近赤外域にかけて反射率が急に高まる領域における所望の波長に対する反射率を計測し、基準となる反射率(たとえば水分ストレスをかけていない状態における、それぞれの波長に対する分光反射率)と比較することでずれ量を検出することができる。この場合にLED404として、可視赤域から近赤外域にかけて反射率が急に高まる領域において所望の波長の光を出力できるLEDを設置して、それらを使用してもよいし、LED404による照射を行わずに太陽光を利用して反射率測定を行ってもよい。太陽光を利用する場合には、植物で反射した太陽光から取得した前記複数の波長における分光反射率を、圃場または農業機械100に設置される標準白色板で反射された太陽光から得た反射率で除し、正規化されたレベル同士を比較することで、太陽光の光量変化による測定値の誤差の影響を少なくすることができる。なお、測定する分光反射率は、2つの波長に対するものに限られず、精度を上げるために3以上の波長に対して測定してもよい。このようにマルチスペクトルカメラ装置113によって植物の含有する水分量を測定することで、測定対象である植物に対して非破壊、非接触で、かつ、迅速な測定が可能となる。

なお、LED404に換えて、またはLED404とともにレーザレーダ装置112から所望波長のレーザ光を植物に照射し、マルチスペクトルカメラ装置113がその反射光を撮像するようにしてもよい。レーザレーダ装置112は計測位置までの距離を測定できる。このため、マルチスペクトルカメラ装置113で撮像した分光画像とレーザレーダ装置112で検出した距離情報から、例えば、枝間の茎の長さや葉の大きさを特定あるいは推定する。本実形態において、この特定(または推定)処理は、サーバー704で行う。サーバー704は、分光画像において後述の認識処理により、葉や枝、茎などを認識する。そして、枝間の長さとして、たとえば距離50cmで1000画素分の長さであれば、約5.3cmなどと特定(または推定)する。または葉が距離50cmで23万画素を占めている場合にはその面積は100平方センチメートルであると特定(または推定)する。これらとその農作物の基準となる茎間の長さや葉の大きさを比較して育成状況を把握する。なお、上記の特定処理(または推定処理)は、農業機械100の制御装置118で行ってもよい。

また、マルチスペクトルカメラ装置(測色カメラ装置)113を2台組み合わせて上述のステレオカメラ装置110と同様の原理で距離を測定するようにしてもよい。これにより、対象物の画像と分光情報および距離情報(視差値情報)を一回の撮像動作で取得することができる。

またさらに、マルチスペクトルカメラ装置113によって、土壌からの近赤外線の分光反射率を計測し、作物の育成に必要な養分(窒素、リン酸、カリウム)の吸収スペクトルの違いを利用して土壌の状態を把握することができる。全体システム1500は、把握した土壌の状態に応じて、肥料などのバランスを調整し、土壌のきめ細かい管理を効率的に行うことができる。

<状態モニタリング装置> 広大な圃場を管理する場合、広範囲にわたる農作物の育成状況などの状態を迅速に認識することが望まれる。図25は、このマルチスペクトルカメラ装置113を使った状態モニタリング装置550を示す。この状態モニタリング装置550は、圃場などにおける農作物の活性度や土壌等を広範囲で素早く測定するための装置である。状態モニタリング装置550は、マルチスペクトルカメラ装置113と、マルチスペクトルカメラ装置113を水平軸に対して回転可能に保持する保持部450と、保持部450を鉛直軸に対して回転可能に保持する回転ステージ452と、太陽光エネルギーを電気エネルギーに変換する太陽電池を複数並べ相互接続されたソーラーパネル456と、ソーラーパネル456で発生させた電気を蓄電する蓄電池とマルチスペクトルカメラ装置113へ命令やマルチスペクトルカメラ装置113からの情報の入出力制御や通信制御、保持部450や回転ステージ452の回転制御を行う制御部を格納した格納部454Aと、格納部454A内の制御部と接続され、農業機械100やサーバー704、ユーザ端末710、712と無線通信を行うための無線アンテナ458と、マルチスペクトルカメラ装置113等を周辺環境から保護する透明なガラス製のカバー462と、状態モニタリング装置550を高い位置に支持する柱460を備えている。この状態モニタリング装置550の通信や各種制御、撮像は蓄電池に蓄えられた電気エネルギーを利用して動作する。なお、蓄電池の電気エネルギー不足や蓄電池を使用しない場合には、外部からの電力を使用してもよい。また、カバー462は透明であればガラス製でなくてもよく、たとえばアクリルなどの樹脂製であってもよい。このカバー462の上方にはソーラーパネル456が、下方には格納部454Aが設置される。また、このカバー462内にマルチスペクトルカメラ装置113、保持部450、回転ステージ452が設置される。この状態モニタリング装置550は、ユーザ端末710、712やサーバー704、農業機械100からの送信された情報に基づき、周辺領域の農作物を撮像し、それらの農作物の植物活性度を調べる。なお、この撮像においてはLED404を使わずに、反射した太陽光を撮像してもよい。また、制御部と無線アンテナ458は、無線アクセスポイントとしても機能し、無線の中継を行うことができる。これにより、無線通信を行える領域を拡大することができる。また、制御部は、農業機械100やサーバー704、ユーザ端末710、712のいずれかからの指示により、当該農業機械100の位置を特定するための信号を、無線アンテナ458を経由して送信する。農業機械100は、合計3つ以上の状態モニタリング装置550または圃場モニタリング装置500から送信される信号の受信信号の強度(または減衰)または受信時間差から現在の位置を特定できる。

なお、この状態モニタリング装置550の設置位置周辺の地面から反射された光をマルチスペクトルカメラ装置113のメインレンズ408に入射させるために状態モニタリング装置550の上方部分のカバー462内側または外側において角度をもたせて反射鏡を設置してもよい。これにより、回転ステージ452や格納部454Aなどによって死角となる下方の様子もモニタリングすることができる。

また、状態モニタリング装置550は圃場にある農作物の状態をモニタリングする用途以外にも、波長により分光反射率が異なる特性を有する対象物(たとえば、土壌)をモニタリングするモニタリング装置として使用してもよい。さらには害虫や霜その他の影響により葉自体や葉の表面等が変色する場合があり、状態モニタリング装置550はそのような色が変化している植物や領域を検出することもできる。

<圃場モニタリング装置> 一般的なカメラ装置は、一回で一方向しか撮像を行うことしかできない。したがって、そのようなカメラ装置を使って周囲すべてをモニタリングする場合には、カメラ装置を回転させるなどの操作を行わなければならず、モニタリング装置の大型化や回転機構を設けるためのコストも必要になる。さらには稼動部があるということで一般的に故障が生じやすい。このため広大な圃場におけるモニタリングにおいては、一回の撮影で、できるだけ広い範囲を撮像できることが望まれる。図26は、全天球カメラ装置501を使った圃場モニタリング装置500を示す。全天球カメラ装置501はセンサの一例である。全天球カメラ装置501は一度の撮像で、そのカメラの周囲360度を撮像できるもので、圃場に設置することで、圃場はもちろんのこと、たとえば空の画像から天候のモニタリングも行うこともできる。また、この圃場モニタリング装置500によれば、日照量の評価などを広い領域で行うことができる。図26において、図25と同一の符号をつけた構成は、図25を用いて説明したものと同一の機能を果たすのでここでの説明は省略する。454Bは、状態モニタリング装置550のように蓄電池と制御部を格納する格納部であるが、この制御部はマルチスペクトルカメラ装置113ではなく全天球カメラ装置501への指示や当該全天球カメラ装置501からの情報の入出力制御を行う点と回転制御は行わない点で状態モニタリング装置550の制御部と異なる。

なお、この圃場モニタリング装置500の設置位置周辺の地面から反射された光を全天球カメラ装置501の光学系A、Bに入射させるために圃場モニタリング装置500の上方部分のカバー462内側または外側において角度をもたせて反射鏡を設置してもよい。これにより、格納部454Bなどによって死角となる下方の様子もモニタリングすることができる。

なお、この全天球カメラ装置501を使った圃場モニタリング装置500は、圃場をモニタリングする用途のほかに、たとえば、監視カメラ装置として使用することができる。

<全天球カメラ> 図27から図30を使って本実施形態における全天球カメラ装置501を説明する。図27は、全天球カメラ装置501の正面外観図である。このカメラは魚眼(広角)レンズを備えた2つの光学系A、Bと本体部502を有する。

A.全天球カメラの光学系 図28は、全天球カメラ装置501の光学系を示す図である。図28において、符号A、Bで示す部分は撮像光学系を示している。2個の撮像光学系A、Bは何れも180度より広い画角を持つ広角レンズと、この広角レンズによる像を撮像する撮像センサIA、IBとにより構成されている。即ち、撮像光学系Aは、レンズLA1〜LA3により構成される前群、反射面を構成する直角プリズムPA、レンズLA4〜LA7により構成される後群により構成されている。そして、レンズLA4の物体側に開口絞りSAが配置されている。撮像光学系Bは、レンズLB1〜LB3により構成される前群、反射面を構成する直角プリズムPB、レンズLB4〜LB7により構成される後群により構成されている。そして、レンズLB4の物体側に開口絞りSBが配置されている。

撮像光学系Aの前群を構成する、レンズLA1〜LA3は、物体側から順に、ガラス材料による負メニスカスレンズ(LA1)、プラスチック材料による負レンズ(LA2)、ガラス材料による負のメニスカスレンズ(LA3)により構成されている。後群を構成するレンズLA4〜LA7は、物体側から順に、ガラス材料による両凸レンズ(LA4)、ガラス材料による両凸レンズ(LA5)と両凹レンズ(LA6)の張り合わせレンズ、プラスチック材料による両凸レンズ(LA7)により構成されている。撮像光学系Bの前群を構成する、レンズLB1〜LB3は、物体側から順に、ガラス材料による負メニスカスレンズ(LB1)、プラスチック材料による負レンズ(LB2)、ガラス材料による負のメニスカスレンズ(LB3)により構成されている。後群を構成するレンズLB4〜LB7は、物体側から順に、ガラス材料による両凸レンズ(LB4)、ガラス材料による両凸レンズ(LB5)と両凹レンズ(LB6)の張り合わせレンズ、プラスチック材料による両凸レンズ(LB7)により構成されている。

これら撮像光学系A、Bにおいて、前群のプラスチック材料による負レンズLA2、LB2、後群のプラスチック材料による両凸レンズLA7、LB7は両面が非球面であり、他のガラス材料による各レンズは球面レンズである。各広角レンズにおける前側主点の位置は、第2レンズLA2、LB2と第3レンズLA3、LB3との間に設定される。撮像光学系Aの広角レンズにおける、前群の光軸と反射面との交点と前側主点との距離が図28におけるd1であり、撮像光学系Bの広角レンズにおける、前群の光軸と反射面との交点と前側主点との距離がd2である。これらの距離d1、d2を広角レンズにおける距離dとすると、 条件(1)7.0

を満足する。 条件(1)の意義について説明すると、条件(1)のパラメータ:d/fが小さくなることは、全系の焦点距離:fが長くなるか、前群の光軸と反射面との交点と前側主点との距離:dが小さくなることを意味する。焦点距離:fが大きくなれば、広角レンズの光軸上のレンズ全長が長くなるので、コンパクト化の観点からこれを適当な値に設定すると、その条件においては距離:dが小さくなることを意味する。dが小さくなると、レンズLA3(LB3)とプリズムPA(PB)との間隔が狭くなり、レンズLA3(LB3)に必要な屈折力を確保するためのレンズ肉厚に対する制限が厳しくなる。そして、条件(1)の下限値を下回ると、レンズLA3(LB3)の所望の肉厚、形状を加工できなくなったり、加工が難しくなったりする。図28において、撮像光学系A、Bは、図における左右方向において、なるべく近接させることが全天球カメラ装置501の小型化の目的に沿う。反射面は直角プリズムPA、PBの斜面であるので、この斜面同士をなるべく近接させることが、上記小型化に有効である。条件(1)において、パラメータ:d/fが大きくなることは、前群の光軸と反射面との交点と前側主点との距離:dが大きくなることを意味し、これは前群が大型化することを意味する。このような前群の大型化は、全天球カメラ装置501の小型化を困難にする。この場合、前群の大きさの増大による全天球カメラ装置501の大型化を吸収する方法として、プリズムPA、PBの斜面同士を近接させた状態で、撮像光学系AとBとを図1の上下方向へずらして配置することが考えられる。しかしこのようにすると、各撮像光学系の広角レンズの前群の光軸同士が、図28で上下方向にずれるので、このズレ量が程度を超えれば視差の影響が大きくなる。視差の影響を有効に抑えつつ、前群の大型化を許容できるのは、パラメータ:d/fが条件(1)の上限より小さい場合である。上記距離:dと焦点距離:fとの比:d/fに対する条件を、全天球カメラ装置501について規制するのが 条件(4)16≦(d1+d2)/f<21 であり、視差の影響を抑えつつ、条件(4)の下限を超えると、プリズムPAとPBの反射面同士が干渉してしまうし、上限を超えると視差の影響を無視できなくなる。 条件(3)nd≧1.8 は、プリズムPA、PBの材質として、d線に対する屈折率:ndが1.8より大きいものを用いるべきことを定めている。プリズムPA、PBは、前群からの光を後群に向かって内部反射させるので、結像光束の光路はプリズム内を通る。プリズムの材料が条件(3)を満足するような高屈折率であると、プリズム内の光学的な光路長が、実際の光路長より長くなり、光線を屈曲させる距離を広げることが出来る。前群・プリズム・後群における前群と後群の間の光路長を機械的な光路長よりも長く出来、広角レンズをコンパクトに構成できる。また、開口絞りSA、SBの近くにプリズムPA、PBを配置することにより、小さいプリズムを用いるができ、広角レンズ相互の間隔を小さくできる。プリズムPA、PBは、前群と後群の間に配置される。広角レンズの前群は、180度以上の広画角の光線を取り込む機能をもち、後群は収差補正の結像に効果的に機能する。プリズムを上記の如く配置することにより、プリズムの配置ずれや製造公差の影響を受けにくい。

B.全天球カメラの光学系以外の構成 次に、図29を用いて本実施形態の全天球カメラ装置501の構成を示す。図29に示されているように、全天球カメラ装置501は、撮像光学系A、B、撮像素子IA、IB、画像処理ユニット504、撮像制御ユニット506、CPU510、ROM512、Static Random Access Memory(SRAM)514、Dynamic Random Access Memory(DRAM)516、操作部518、ネットワークI/F520、及び、通信部522を備えている。撮像素子IA、IBは、広角レンズによる光学像を電気信号の画像データに変換して出力するCMOSセンサやCCDセンサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。撮像素子IA、IBは、各々、画像処理ユニット504とはパラレルI/Fバスで接続されている。さらに、撮像素子IA、IBは、撮像制御ユニット506とは、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット504及び撮像制御ユニット506は、バス508を介してCPU510と接続される。さらに、バス508には、ROM512、SRAM514、DRAM516、操作部518、ネットワークI/F520、通信部522も接続される。画像処理ユニット504は、撮像素子IA、IBから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図30(c)に示されているような正距円筒画像のデータを作成する。撮像制御ユニット506は、一般に撮像制御ユニット506をマスタデバイス、撮像素子IA、IBをスレーブデバイスとして、I2Cバス等のシリアルI/Fバスを利用して、撮像素子IA、IBのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU510から受け取る。また、該撮像制御ユニット506は、同じくシリアルI/Fバスを利用して、撮像素子IA、IBのレジスタ群のステータスデータ等を取り込み、CPU510に送る。また、撮像制御ユニット506は、操作部518のシャッターボタンが押下されたタイミングで、撮像素子IA、IBに画像データの出力を指示する。なお、圃場モニタリング装置500においてはこの操作部518は省略され、ネットワークI/F520と接続される、格納部454に格納された制御部からの指示に基づいて撮像されることになる。

また、撮像制御ユニット506は、後述するように、CPU510と協働して撮像素子IA,IBの画像データの出力タイミングの同期をとる同期制御手段としても機能する。CPU510は、全天球カメラ装置501の全体の動作を制御すると共に必要な処理を実行する。ROM512は、CPU510のための種々のプログラムを記憶している。SRAM514及びDRAM516はワークメモリであり、CPU510で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM516は、画像処理ユニット504での処理途中の画像データや処理済みの正距円筒画像のデータを記憶する。操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、表示と操作の機能を兼ねたタッチパネルなどの総称である。ユーザは操作ボタンを操作することで、種々の撮影モードや撮影条件などを入力することができる。ネットワークI/F520は、SDカードやUSBメモリ等の外付けのメディアやパーソナルコンピュータなどとのインターフェース回路(USB I/F等)の総称である。また、ネットワークI/F520としては、無線、有線を問わずにネットワークインタフェースである場合も考えられる。DRAM516に記憶された正距円筒画像のデータは、このネットワークI/F520を介して格納部454の制御部と通信を行う。そして、無線アンテナ458を経由して農業機械100、サーバー704、ユーザ端末710、712にデータを送信する。通信部522は、短距離無線技術を有する。格納部454内の制御部に通信機能を持たせ、通信部522と通信を行うようにしてもよいが、全天球カメラ装置501を圃場モニタリング装置500で使用する場合には通信部522は省略できる。

次に、図30を用いて、全天球カメラ装置501で撮影された画像及び合成された画像を説明する。なお、図30(a)は全天球カメラ装置501で撮影された半球画像(前側)、図30(b)は全天球カメラ装置501で撮影された半球画像(後側)、図30(c)は正距円筒図法により表された画像(「正距円筒画像」という)を示した図である。なお、説明を分かりやすくするために図30では、建造物を撮像した例を示している。図30(a)に示されているように、撮像素子IAによって得られた画像は、撮像光学系Aによって湾曲した半球画像(前側)となる。また、図30(b)に示されているように、撮像素子IBによって得られた画像は、撮像光学系Bによって湾曲した半球画像(後側)となる。そして、画像処理ユニット504によって、半球画像(前側)と、180度反転された半球画像(後側)とは、全天球カメラ装置501によって合成され、図30(c)に示されているように、正距円筒画像が作成される。画像処理ユニット504では、まず、繋ぎ位置を検出する。すなわち、パターンマッチング処理により、エリア毎に基準画像と比較画像のずれ量を算出する。続いて幾何学的変換により歪み補正を行う。すなわち、繋ぎ位置検出結果について、レンズ特性を考慮し、全天球画像フォーマットへ変換する。最後に2枚の画像をブレンドし、一枚の全天球画像を生成する。

なお、圃場に設置される圃場モニタリング装置500、555の全天球カメラ装置501のうちの一部を夜間モニタリング用に暗視カメラとしてもよい。この場合、撮像素子IA、IBには高感度の受光素子を使用し、圃場への照明として近赤外光を照射し、その反射光を撮像することでモノクロモードの画像を取得できる。

また、全天球カメラ装置501は、ステレオカメラ装置110と同様に、撮像素子IA、IBの受光側に偏光フィルタ(SWS偏光フィルタなど)を配置し、S偏光とP偏光による画像を検出するものであってもよい。この場合、全天球カメラ装置501においてもハイコントラストの画像を取得することができる。このため、偏光カメラ装置ではないカメラ装置では検出が難しい、面方向に応じて光の偏光状態が異なる被写体(黒い被写体など)や光の偏光状態に応じて透過率が変化する被写体(透明な被写体など)などの検出精度を高めることができる。

<圃場モニタリング装置の他の例> 図31は圃場モニタリング装置の他の例を示す。この圃場モニタリング装置555は上述の圃場モニタリング装置500と異なり、ソーラーパネル456や無線アンテナ458を透明のカバー462と接触させずに、柱470を介して上方に設置している。その他の構成は圃場モニタリング装置500と同じである。このようにすることで、少しだけ上方の画像を取得したい場合にもソーラーパネルが邪魔にならずにすむ。また、図31の圃場モニタリング装置555において、全天球カメラ装置501に代えて、図25に示すマルチスペクトルカメラ装置113、保持部450、回転ステージ452を備え、それらを制御する制御器を有する状態モニタリング装置550を構成してもよい。

なお、この圃場モニタリング装置555の設置位置周辺の地面から反射された光を全天球カメラ装置501の光学系A、Bに入射させるためにカバー462上方部分のカバー内側または外側において角度をもたせて反射鏡を設置してもよい。これにより、格納部454Bなどによって死角となる下方の様子もモニタリングすることができる。 モニタリング装置500、550、555は、圃場内に複数設置されているが、圃場の大きさが小さく、1個でモニタリングできる場合には1個だけでもよい。圃場モニタリング装置500、555、状態モニタリング装置550はセンサの一例である。

〔システムの動作〕図32から図56を用いて、本実施形態における全体システム1500の動作について説明を行う。なお、全体システム1500の動作は、農業機械100、サーバー704、ユーザ端末710、712、その他のモニタリング装置500、550、555、データベース706、708等が連携して動作するものであって、農業機械100を手動で運行、作業させるものではない。すなわち、農業機械100が自動で運行および作業を行うための動作である。全体システム1500の動作において、これらの図のフローチャートで示す動作は代表的なものである。その他の動作や詳細な動作はすでに文章で説明が行われたか、これから説明が行われる。また、農業機械100、サーバー704、ユーザ端末710、712、その他の装置(符号110、112、113、500、550、555等の装置)との間における情報のやり取りは、すでに説明を行った有線または無線による通信によって直接または無線アクセスポイント等による中継を介して行われる。電波による無線が有効でない場合には、可視光または不可視光を用いた無線情報通信をおこなってもよい。

なお、これまでの説明および以後の説明でサーバー704が主体となって動作を行うものは、正確にはサーバー内のCPUがSSDに格納されたプログラムに従って行う動作であるが、説明の簡単化のため、サーバー704が行うものとして説明する。また、これまでの説明および以後の説明で農業機械100が主体となって動作を行うものは、正確には農業機械100に内蔵される制御装置118がそこに格納されたプログラムに従って行う動作であるが、説明の簡単化のため、農業機械100が行うものとして説明する。さらに、これまでの説明および以後の説明でユーザ端末710、712が主体となって動作を行うものは、正確にはユーザ端末710および/またはユーザ端末712に内蔵されるCPUが記録媒体に格納されたプログラムおよび/またはユーザ端末の使用者の指示に従って行う動作であるが、説明の簡単化のため、まとめてユーザ端末710、712が行うものとして説明する。またさらに、これまで説明した、または今後説明される、その他の装置(符号110、112、113、500、550、555等の装置)やデータベース706、708などの動作も、正確にはそれらが備えている制御プロセッサやCPUがそれらの装置やデータベースに格納されているプログラムの沿って行う動作であるが、説明の簡単のために、その他の装置(符号110、112、113、500、550、555等の装置)やデータベース706、708等が行う動作として説明される。

<初期設定> 手動によらず農業機械100に移動および作業を行わせるためには、その動作を実行する前に作業箇所や作業内容等を設定する必要がある。図32と図33は農業機械100が圃場で移動や作業を行うために、サーバー704、ユーザ端末710、712、農業機械100において行う初期設定を説明するためのフローチャートである。これらの図に沿って説明を行う。なお、基本的に左側に農業機械100が行う動作、中央にサーバー704が行う動作、右側にユーザ端末710、712が行う動作を示すが、図によってはそれらのうちの一つまたは二つが行う動作として説明がなされている。

本実施形態における全体システム1500において、初期設定動作が開始されると(S100)、サーバー704は、圃場を特定するためのデータ、すなわち、圃場の角部や端部の位置情報(経度および緯度、可能であれば高度)または/及び圃場の形状などのデータを送信するようにユーザ端末に問い合わせる(S102)。なお、このS100の工程による初期設定動作の開始は、ユーザ端末からの指示により実行される。

ユーザ端末710又は712は、問い合わせに答える形式で入力された、圃場を特定するために必要なデータ(圃場の角部や端部の位置情報(経度および緯度、可能であれば高度)または/及び圃場の形状など)をサーバー704に送信する(S104)。このデータ入力において、サーバー704やデータベース706等、またはインターネットやその他の外部システムが有する地図情報を取得して、その地図情報を使用してデータ入力を行ってもよい。たとえば、地図の各地点において緯度・経度(及び高度)といった位置情報が紐付いている地図をユーザ端末710又は712の画面上に表示し、その上をユーザが囲むあるいはなぞる形で圃場を指定する。その指定された領域から得られた位置情報等をサーバー704に送信してもよい。なお、この圃場特定のためのデータは、全体システム1500の提供者が予め設定しておいてもよい。 サーバー704は、ユーザ端末710又は712から送られた圃場を特定するための情報を受信し、作業が行われ得る圃場を特定し、名前等の識別情報をつけてサーバー704内のSSDに記憶する(S106)。また、圃場特定の情報は、識別情報をつけてデータベース708でも記憶される。この記憶された情報があれば、将来ユーザからの情報入力がなくても同じ圃場内で作業を行うことができる。

続いて、サーバー704は、圃場内で作業を行う箇所を特定するための情報を送信するよう問い合わせをユーザ端末710、712に行う(S108)。

ユーザ端末710又は712は、問い合わせに答える形式で入力された、作業箇所を特定するために必要なデータ(作業領域の角部や端部の位置情報(経度および緯度、可能であれば高度)または/及び作業領域の形状情報、作業開始位置、作業終了位置、まくら地など)をサーバー704に送信する(S110)。このデータ入力において、圃場を特定する場合と同様にサーバー704、データベース706、またはインターネットやその他の外部システムが有する地図情報を取得して、その地図情報を使用してデータ入力を行ってもよい。たとえば、地図の各地点において緯度・経度(及び高度)といった位置情報が紐付いている少なくとも圃場を示す地図をユーザ端末710又は712の画面上に表示し、その上をユーザが作業開始位置から作業終了位置までなぞる形や作業箇所を囲み、作業開始・終了位置を特定する形等で作業箇所を指定する。これにより指定された領域から得られた位置情報等をサーバー704に送信してもよい。

サーバー704は、ユーザ端末710又は712から送られた作業箇所を特定するための情報を受信し、作業を行う箇所を特定し、名前等の識別情報をつけてサーバー704内のSSDに記憶する(S112)。また、作業箇所を特定する情報は識別情報をつけてデータベース708でも記憶される。作業箇所の情報を記憶しておけば、将来同じ作業箇所で同一または異なる作業を行う場合にあらためてユーザに入力させなくてもよくなる。なお、サーバー704は圃場モニタリング装置500,555、状態モニタリング装置550からの情報に基づいて作業箇所を特定してもよい。

続いて、サーバー704は、作業の種類(耕起、砕土、整地、田植、施肥、播種、移植、収穫、除草、農薬散布・噴霧、散水、刈払、等)とその作業を行う農業機械およびその運行法(内返し耕、外返し耕、外回り(外巻)耕、内回り(内巻)耕、片道耕、順次耕、縦横がけ、対角線がけ等)または運行順路についてユーザ端末710、712に問い合わせる(S114)。

ユーザ端末710又は712は、ユーザが入力した作業の種類、作業を行う農業機械、運行法または運行順路をサーバー704に送信する(S116)。この際、運行順路において部分ごとに作業の種類を変更する、または、ある部分では作業を行わないなどの指定も行うことができる。また、運行順路は、サーバー704、706、またはインターネットやその他の外部システムが有する地図情報を取得して、その地図情報を使用してデータ入力を行ってもよい。たとえば、地図の各地点において緯度・経度(及び高度)といった位置情報が紐付いている少なくとも作業箇所を示す地図をユーザ端末710又は712の画面上に表示し、その上をユーザが作業開始位置から作業終了位置までの経路をなぞることで順番に設定することで運行順路を指定する。さらに、その経路の一部で作業を変更する、作業をさせない等の指定も行うことができる。

サーバー704は、ユーザ端末710又は712から送られた作業の種類、作業を行う農業機械、運行方法または運行順路を特定するための情報を受信し、それらを特定し、名前等の識別情報をつけてサーバー704内のSSDに記憶する(S120)。また、それらを特定する情報は識別情報をつけてデータベース708でも記憶される。

以上、サーバー704はS106、S112、S118で特定した情報を作業データとしてまとめ、それらが間違いないか確認をするためにユーザ端末710、712に送信する(S120)。この際、特定したデータが過去のものから変更されている場合にはSSD及びデータベース708に記憶されているデータを書き換える。

ユーザ端末710又は712は、受信した作業データに対して変更ありか変更なしの確認をサーバー704に送信する(S122)。

サーバー704は、ユーザ端末710又は712から送信された確認情報に基づいて、作業データに変更があるかないか判断する(S124)。

ここで、変更ありと判断された場合には、ユーザ端末710、712に変更を行うデータの入力を促す(S126)。

ユーザ端末710又は712は、圃場を特定するためのデータ、作業箇所を特定するためのデータ、作業の種類、農業機械、運行法または運行順路を特定するためのデータのうち、少なくとも1つの変更を行う項目を選択し、その変更をサーバー704に送信する(S128)。これによりサーバー704はS120の工程に戻り、続きの処理を続行する。

一方、S124の工程で、サーバー704が変更なしと判断した場合、作業データを農業機械100に送信する(S130)。

農業機械100は、認識している作業装置106が、サーバー704から送信された作業の種類を実行できるか判断する(S132)。

たとえば、農業機械100に接続されている作業装置106が施肥装置であるときに、サーバーから送られてきた作業の種類が播種の場合のように、その作業装置106が作業の種類を実行できない状態や農業機械100に何の作業装置が接続されていない状態では、S132では否定的な判断がなされ、作業の種類と接続する作業装置の少なくともいずれか一方の変更をする、または作業装置を接続するように促すためのエラー情報をサーバー704に促す(S134)。

サーバー704は、農業機械100からこのようなエラー情報を受け取ると、ユーザ端末710、712に作業の種類と接続する作業装置の少なくともいずれか一方の変更、または作業装置の接続をするように促す通知を行う(S136)。

ユーザ端末710、712は、この通知を受け取り、作業種類を変更するか接続する作業装置を変更または接続するか行う(S138)。

ユーザによってユーザ端末710又は712が作業の種類を変更する指示を行う場合には、その変更した作業の種類をサーバー704に送信し、S130の工程に戻り、変更した作業種類の情報を含め、作業データを農業機械100に送りなおす。

一方、S138の工程において、ユーザがユーザ端末710又は712を介して作業装置の変更または接続を選択する場合には、農業機械100はその変更または接続が行われたか否かを判断する(S140)。

そこで、接続や変更がなされない場合には、S140の工程で処理はとまる。ここで、所定時間経過した場合に、農業機械100はサーバー704を介してユーザ端末に注意を喚起する通知を行ってもよい。

一方、S140の工程で、農業機械100が、作業装置が変更または接続されたと判断した場合、S132の工程に戻る。これらの工程によって、農業機械100により適切な作業を行うことができるとともに、散水作業を行うべきところで播種作業を行うなど作業種類を誤るという作業の自動化に伴って生じる問題を防止できる。

S132の工程で、農業機械100が接続されている作業装置で受信した作業の種類を実行できると判断した場合には、初期設定完了の通知をサーバー704に送信する(S142)。

サーバー704は、初期設定完了通知を受信すると、初期設定の内容(最終的に設定された作業データ)と初期設定完了年月日と時刻をSSDまたはデータベース708に登録する。さらにユーザ端末710、712に初期設定完了の通知を送る(S144)。

ユーザ端末710、712では初期設定完了通知を受信し(S146)、初期設定作業を終了する(S148)。

なお、ユーザがサーバー704への情報入力できる機能を、手動操作部116に備えている農業機械100を使用する場合にはS102、S110、S116、S122、S128、S130の各工程は農業機械100の手動操作部116から行うようにしてもよい。この場合には、サーバー704は、農業機械100にも問い合わせを行う。

なお、サーバー704はS104、S110、S116の問い合わせの順番を変えてもよく、いずれかを組み合わせてまたはまとめて問い合わせるようにしてもよい。

また、S122の工程において、変更がある場合には、S128で説明したような変更を行う項目とその変更されたデータをサーバー704に送るようにしてもよい。

また、S142の工程において、農業機械100は初期設定完了の通知をサーバー704とユーザ端末710、712の両方に送信するものであってもよい。

<基本動作> 続いて、図34から図56を用いて通常の作業開始から作業終了までの動作を説明する。農業に限らず、移動と作業を行う機械の自動制御においては、作業開始位置まで機械を移動させ、作業を行い、作業完了後に機械保管する位置まで機械を移動させる必要がある。図34は作業開始から作業完了(保管位置への移動)までの大まかな動作を示す。図中において、S162、S170およびS180の工程は別途図35などを利用した説明で定義される処理である。

作業開始(S150)は、ユーザ端末710,712によるサーバー704への作業開始指示の送信により始まる(S152)。なお、後述のように圃場における圃場モニタリング装置500、555、状態モニタリング装置550からの指示を端緒として農業機械100が作業を開始する場合もある。

サーバー704は作業開始指示を受信するとその情報と受信時刻(年月日時刻)をデータベース708に記憶し、初期設定済みの農業機械100に作業開始を支持する(S154)。

作業開始指示を受信した農業機械100は、まず、現在位置(緯度、経度)を確認する(S156)。この確認は、農業機械100が全体システム1500で過去に作業を行い、その後、移動がない場合には農業機械100がデータベース708に記録されている保管位置情報を取得することにより行うことができる。データベース708に過去の保管位置に関するデータがない場合には、相対測位方式の一つであるDifferential GPS(DGPS)測位により位置確認が行われる。これは位置の分かっている基準局が発信するFM放送の電波を利用して、GPSの計測結果の誤差を修正して精度を高める方法である。基準局でGPSによる測量を行い、実際の位置とGPSで算出された位置のずれを地上波で送信することにより、衛星からの信号により計測した結果を補正する。通常のGPS測位は4つの衛星からのGPS信号を受信して、その衛星位置を既知として衛星からの電波伝搬時間から距離を測定し、衛星から等距離である円弧の交点として緯度、経度を得る。すなわち、衛星が送信するコードを解析し、電波を発信した時刻とGPS用アンテナ120が受信した時刻から衛星と農業機械100の距離を求め、さらに衛星の位置関係から農業機械100の位置を特定する。このままだと精度が悪く20m程度の誤差を含んでしまうので、それを上記のFM地上波で補正することにより誤差を5m程度におさえている。なお、GPSを利用した測位はDGPS方式に限られず、基準局から衛星までの距離を搬送波数と位相を用いて測定し、数cmオーダーの誤差におさえるReal Time Kinematic GPS(RTKGPS)方式や補正情報配信にインターネットを利用するインターネットGPS方式などであってもよい。また、圃場内における位置が既知である複数のモニタリング装置500、550、555を利用して位置を特定してもよい。この方法は、モニタリング装置500、550、555のいずれかから特定の位置特定用信号を発信し、農業機械100の無線通信用アンテナ114で受信する。このときの受信信号の強度(振幅)または減衰率からそのモニタリング装置と農業機械100間の距離を求める。または信号の到達時間を計測し、距離を求めてもよい。3つ以上のモニタリング装置500、550、555からの距離を測定することで、それらの円弧の交点を求め、位置を特定する。

また、モニタリング装置500、550、555で撮像した画像において、農業機械100と複数の位置が既知の標識などの位置関係から農業機械100の位置を特定してもよい。

さらにはステレオカメラ装置110で3点以上の位置が既知の対象物との距離を測定し、そこからそれらの円弧の交点を求めて、位置を特定してもよい。この場合、一つの撮像画像内に3点以上の位置が既知の対象物がある場合に限られる。

また、上記のようなGPS技術によって測定された距離や圃場内のモニタリング装置500、550、555などを利用して求めた距離、ステレオカメラ装置110で測定した距離を組み合わせて現在の位置を特定してもよい。すなわち、3点の位置が既知の地点からの距離が分かれば、農業機械100またはサーバー704は、その位置を算出することができる。なお、ビニールハウスなどの温室栽培で、GPS信号が取得できない場合には、GPS信号以外の方法により、現在位置を特定する。

なお、確認する現在位置は、経度や緯度で示す方法のほかに、ある決まった座標系において示される位置(X、Y)やある既知の地点から方位と距離で示すものなどであってもよい。さらにはGPS信号または高度計を用いて計測される高度の情報も現在位置を表す情報として使用してもよい。

続いて、農業機械100は前進または後進の方向を確認する(S158)。方位は、農業機械100に設置されている地磁気センサにより確認される。地磁気センサを使わない場合には、少し農業機械100を前進または後進させて、その位置情報をS156の工程と同様の方法で取得し、S156の工程で特定した位置との関係から前進または後進の方位を特定すればよい。ただし、GPS等での測位には誤差があるので、その誤差を無視できるだけの前進または後進を行う必要がある。このため、前進を行う場合には、農業機械100はステレオカメラ装置110を使って、進行経路内で前進する位置まで障害物がないことを確認してから、前進する。この前進、後進の移動動作を行うとき、農業機械100が内燃機関を有する場合、制御装置118が原動機102内のエンジンに点火を行い、ピストンを動かし、変速装置204を1速に入れ、主クラッチ202をつないで、エンジンで発生した動力を後輪130まで伝達し農業機械100を前進させる。ピストン運動を速め、進行速度が上がり、エンジンの回転数が所定の値を超えると、制御装置118は主クラッチ202を切り、変速装置204を2速、3速と増加させる。農業機械100が電気駆動の場合には、制御装置118が原動機102−2内のモータを前進する向きに回転させることで運動エネルギーを後輪130に伝え、農業機械100を前進させる。なお、後退する場合には、内燃機関の農業機械100では制御装置118は主クラッチ202をきった状態で、変速装置204をリアに入れてから主クラッチ202をつなぐ。一方、電気駆動の農業機械100では、モータの回転方向を逆にすることにより、農業機械100は後進する。このように全体システム1500は移動前に方位を測定し進行方向を把握するので、あやまった方向に農業機械100が進行することを防止できる。

進行方向(方位)の確認を終えると、農業機械100は、現在の位置から作業を開始する位置への経路を計算する(S160)。この際、作業の種類に応じた経路を算出する。たとえば、作業の種類が収穫である場合には、作業箇所に入らないような最短の経路を特定する。現在位置と作業開始位置の間にそのような作業箇所がある場合には迂回する経路を算出し特定する。収穫前に作業領域に突入し、進行すると収穫すべき農作物を破壊してしまう可能性があるからである。特に、ステレオカメラ装置110を使って撮像した画像から農作物と認識ができないような小さな農作物が栽培されている場合には有効な処理である。一方、作業の種類が均平化などの整地である場合には、作業領域を横切るような経路を算出しても問題ない。作業領域は後々整地されるからである。このように作業の種類に応じた経路を算出するので、作業開始位置まで効率的な移動を行うことが可能となる。なお、この最短経路の算出は、農業機械100ではなく、サーバー704で行ってもよい。この場合、データベース708内に格納された圃場内の他の作業データを調べ、他の領域の状態を確認し、経路を算出する。例えば、他の領域で農作物が栽培されている場合には、その領域に農業機械100が進入することがない最短の経路あるいは最低限の進入で済む最短の経路を導出し、特定する。こうすることで、他の領域で栽培される農作物に影響を与えることを防止する、あるいは影響を最小限におさえることができる。その後、サーバー704は導出した経路を農業機械100に伝達する。

経路が算出されると、農業機械100は特定した経路に沿って、作業開始位置まで移動する(S162)。この移動処理は図35から図37を利用した説明で詳細に定義される。 農業機械100が作業開始位置まで到達すると、農業機械100は作業開始位置に到達した旨をサーバー704に送信する(S164)。

サーバー704は、この信号を受信すると作業開始年月日時刻をデータベース708に記録する(S166)。これにより、作業ログを自動的に残すことができ、課金処理に利用することができるようになる。さらにユーザ端末710、712に作業開始の通知を行う。

なお、農業機械100は、作業開始位置に到達した旨の通知をサーバー704のみならず、ユーザ端末710、712にも送信するものであってもよい。

ユーザ端末710、712は作業開始の知らせと開始時刻を受信することで、ユーザは作業がいつ開始されたかを認識できる(S168)。

そして、農業機械100は信号を送信した後すぐに作業を開始する(S170)。作業の動作は、図35、図36などを利用した説明で詳細に定義される。

作業が終了すると、農業機械100は作業が終了した旨をサーバー704に送信する(S172)。

サーバー704は、この信号を受信すると作業終了年月日時刻をデータベース708に記録する(S174)。これにより作業ログを自動的に蓄積することができ、そのログを使った課金処理などに利用できるようになる。さらにユーザ端末710、712に作業終了の通知を行う。

なお、農業機械100は、農業機械は作業が終了した旨の通知をサーバー704のみならず、ユーザ端末710、712にも送信するものであってもよい。

ユーザ端末710、712は作業終了の知らせと終了時刻を受信することで、ユーザは作業がいつ終了したかを認識できる(S176)。

農業機械100は、作業が終了すると、農業機械100自体の保管位置までの経路を計算する(S178)。農業機械100は、作業を行った領域を可能な限り横切らない経路で、かつ、保管位置まで最短となるような経路を導出する。この経路計算はサーバー704で行ってもよい。この経路計算の詳細はS160の工程で説明したのとほぼ同様であるが、整地などの作業を終えた領域には進入しないような経路が算出されることになる。

経路計算を終えると、農業機械100は保管位置まで経路に沿って移動する(S180)。この移動処理は、図35から図37を使った説明で定義されている。

保管位置まで移動が終了すると、作業は完了する(S182)。なお、保管位置の移動終了時刻と保管位置については後述のS228、S229の工程によってデータベース708に保存されることになる。これにより、将来その農業機械100を使って作業を行う場合に、作業開始時の位置を素早く認識することができるようになる。

自動制御により手動によらず農業機械100を移動させる場合、移動経路に移動を阻害する状態がなければ簡単に移動することができるが、実際の圃場においてはさまざまな移動を阻害する要因が存在する。そこで、自動制御による移動においてはそのような阻害要因に対して対処できる機能を有することが課題となる。図35、図36を用いて、S162、S170、S180の移動工程の詳細な動作、処理について説明を行う。

S162、S170及びS180の移動処理は開始すると(S200)、まず、ステレオカメラ装置110を使って、進行方向の画像を撮像し、進行方向の確認を行う(S202)。本実施形態では、この確認は農業機械100において行われる。この処理について図35(a)を使って説明する。図35(a)は、S202の工程においてステレオカメラ装置110で撮像した画像のうちの基準画像を示す。ステレオカメラ装置110が撮像した範囲において、測距を行う。そして、少なくとも経路内で旋回すべき地点まで、あるいは測定可能な地点(これらは図中Jで示される)までの農業機械100の経路中(図中、灰色で示した部分)において、下方から上方に画素の視差値情報または距離情報を走査(確認)して距離(または視差値。以下同様)が一定範囲を超えて連続的に変化しない部分(隣接する画素間で一定以上距離が変化しない部分であり、地面と物体との境界を示し、たとえば図中のh1である)および/またはその後上方に画素を走査したときに経路内外において距離が突然大きく変化し、その後距離が一定範囲内の連続的な変化をするようになる部分(隣接する画素間で一定以上距離が変化する部分であり、物体と背面との境界を示し、たとえば図中のh2である)が含まれるかどうかで判断する。ここで距離が連続するか否かについて一定範囲内かどうかを判断するのは、たとえば、圃場内の畝などの凸凹について障害物として把握されないようにするためである。このため、一定の範囲は、一般的なうね高に対応する値以上に設定されている。なお、距離が突然大きく変化し、その後距離が一定範囲の連続的な変化をするようになる部分(h2)が把握できない場合(たとえば、障害物の高さが高く、撮像画像におさまらない場合や障害物の上端がステレオカメラ装置110の測距可能な領域を超えた場合、物体の上端を示す画素h2より上方の画素が地上を示す画素でなくなる場合等)にも障害物ありと判断する。圃場において農業機械100の経路上に何も存在しない土地を考えると、その土地においてステレオカメラ装置110によって測定される距離は、農業機械100から遠ざかる(図面では上方の位置にいく)につれて連続的に長くなっていく(たとえ、土地が多少傾いていても連続的に距離が増加する)。一方、土地の上にステレオカメラ装置110で測定できる大きさ以上の物体(図中のO)が存在すると、撮像画像においてその物体が撮像された領域内では測距位置が、上方に変化しても(たとえば図中のh1からh2の位置)、距離の変化は、その物体に至るまでの連続的な変化に比べて小さくなったり、あまり変化しなかったり、あるいは距離が短くなったりする(一番目の物体は、少なくとも農業機械100の進行方向に向かって傾斜しながら高くなる領域を有する物体、二番目の物体は、農業機械100の進行方向に対して略垂直に立った領域を有する物体、最後の物体は農業機械100に向かって傾斜する領域を有する物体である)。それらの変化は、距離が突然変化し、その後、距離の変化が連続的に変化する地点(h2)まで続く。さらに、横方向でも、たとえば、左側の境界位置w1と右側の境界位置w2において隣接画素における測定距離が大きく変化する。なお、物体Oが撮像画像に納まらないほど大きいときにはh2やw1、w2が求まらない場合もあるが、この場合にも障害物ありと判断する。このように経路内で旋回位置あるいは測定可能な距離までの農業機械100の経路内で、少なくとも測定された距離が一定範囲内を超えて不連続に変化する場合(h1がある場合)には障害物ありと判断し、一定範囲内で連続的にしか変化しない場合には障害物なしと判断する。なお、ここで、移動を阻害する要因の一つとして障害物を例に説明したが、これに限られず、進行方向の勾配が急すぎる場合や経路上が陥没して穴が開いている場合なども阻害要因となる。これらの場合も、障害物と同様に測定される距離の変化率から判断されることになる。

なお、サーバー704に基準画像と視差値情報あるいは距離情報を送信し、サーバー704で確認してもよい。さらにはサーバー704または農業機械100で後述の認識処理(S208)を行って障害物の有無を判断してもよいが、認識作業に処理時間を要することになる。また、ステレオカメラ装置110で把握できない死角については、超音波ソナー装置126を使って、障害物がないかを確認することができる。超音波ソナー装置126で障害物を確認した場合には、農業機械100を一旦後進して障害が検出しない方向に旋回して動作を継続する。

S202の確認処理の結果、経路上に把握できる程度に大きな障害物であるかどうか判断する(S204)。ここで把握できるとは、後段工程(S208)で認識処理を行えることを意味する。この処理について図35(a)を参照して説明を行う。上記のように撮像画像の縦方向においては、h1とh2の間が障害物Oにおける高さ方向が最大となる。またw1とw2の間が物体Oにおける幅方向が最大となる。このような地点を求め、それらの画素間(h1とh2、w1とw2)に存在する画素の数を求め、それらが所定値以上または所定値を超える場合に、障害物が認識処理可能な大きさであると判断し、S206の工程に進む。この際、高さ方向または横方向だけで判断を行ってもよい。すなわち、h1とh2(またはw1とw2)間に所定数以上または所定数をこえる画素がある場合に画像認識処理が可能な大きさであると判断し、S206の工程に進む。また、h2、w1、w2のうちの少なくともいずれかが求まらない場合(すなわち、障害物Oがh2、w1、w2を測定できないほど大きいと推定される場合)にも画像認識処理が可能な大きさであると判断し、S206の工程に進む。一方で、少なくともh1とh2間およびw1とw2間のいずれか一方における画素数が所定値以上または所定値を超える場合には障害物は認識処理可能な大きさでないと判断し、S224の工程に進む。急勾配や経路の陥没など障害物とは異なる移動阻害要因に関しても同様にして大きさを判断できる。その後、農業機械100を前進させ、所定時間経過後、すなわち、少し障害物に近づいたときに(S224,S226、S228、S230、S232、S202の工程を経て)再度、判断を行うことになる。また、S202の工程で、進行方向に障害物がないと判断した場合にもS204の判断は否定され、S224の工程に進む。なお、サーバー704に基準画像と視差値情報あるいは距離情報を送信し、サーバー704でS204の判断をしてもよい。この場合には、S206を省略し、S208の工程の処理を行えばよい。さらには農業機械100で後述の認識処理(S208)を行って障害物の認識を行ってもよい。

S202の工程で認識可能な程度の大きな障害物があると判断した場合には、農業機械100が前進している場合には制御装置118でブレーキ装置208、214を動作させ、農業機械を一旦停止させる。そして、農業機械100は、ステレオカメラ装置110で撮像した画像(基準画像)をサーバー704に送信する(S206)。なお、農業機械100が停止している場合には、制御装置118はブレーキ動作を行わない。

サーバー704は画像を受信すると、その画像認識処理を行う(S208)。サーバー704は認識処理を次の手順で行う。まずサーバー704は、受信画像への補正処理、次いで特徴量抽出処理、そして標準パターンとの比較による識別処理を経て、画像認識を行う。補正処理は受信画像が有する歪みやノイズを低減する処理である。補正はノイズ除去、平滑化、鮮鋭化、二次元フィルタリング処理、特徴量抽出を容易にするための2値化、さらに認識対象とする図形の骨格線を抽出する細線化処理を行う。また、サーバー704は後処理のパターンマッチングを正確に行うための正規化処理(画像の拡大や縮小、回転、移動、濃度変換)を施す。特徴量抽出処理は、画像の特徴を忠実に示すパラメータである特徴パラメータを求め、その形状である特徴パターンを求める処理である。サーバー704は画像の不連続部分をエッジとして抽出するエッジ抽出を行う。すなわち、サーバー704は濃度の変化点を抽出し、画像をいくつかの連続領域に分割する。このエッジ抽出は延長跡法により途切れている点列をつないでから二次微分処理を施すことにより求める。なお、サーバー704はエッジ抽出を使わずに、あるいはエッジ抽出とともに領域分割による領域抽出、テクスチャ抽出を行ってもよい。続いて、サーバー704は標準パターンと特徴パターンとの比較による識別処理を施し、ある標準パターンと類似する場合にはその画像はその標準パターンと同一カテゴリーとみなす。本実施形態ではサーバー704は、データベース706に保存されている標準パターンを使ってパターンマッチングを行い、同一、類似のものがあるか検出する。なお、特徴パターンではなく特徴パラメータを使って識別処理を行う場合には、統計的識別法を使って識別を行ってもよい。さらには、エッジや特徴点を抽出して画像を構造解析する場合には構造識別法を使って識別を行ってもよい。このようにして識別が行えたときには、その画像を認識できたとし、識別が行えばないときには認識できないとする(S210)。

画像認識でない場合には、ユーザ端末710、712に送信し、ユーザ(システム利用者)に障害物の種類と対応の入力を促す(S212)。

ユーザはユーザ端末710、712を使って、障害物の種類(たとえば、自然物(岩や木、カンガルーや牛などの動物)、人工物(柵や門))とその対応(回避、無視)をサーバー704に伝える(S214)。

サーバー704はこれら情報を当該画像およびその特徴パターンに紐付け、新たな標準パターンとしてデータベース706に登録する(S216)。これによって、将来、今回の障害物と類似する画像を認識する際に認識を行うことができるようになる。さらにサーバー704はデータベース708にユーザから情報を取得した情報を記録する。これにより、課金を行う際の値引きを自動的に行うことができるようになる。

なお、一定時間内にユーザ端末710、712からS214の情報を得られない場合には、サーバー704はユーザ端末710、712に督促を出し、入力を促す。さらに一定時間経過するまでに回答がない場合、サーバー704は障害物の種類を「不明の障害物」として、その対応は、安全性を考慮して、「回避する」としてデータベース706に登録する。後ほどユーザ端末710、712から障害物の種類と対応が送付されてきた場合には、サーバー704はデータベース706の登録情報をユーザ端末からの情報に書き換える。

S210で画像認識ができた場合には、農業機械100はその認識結果に沿った対応をすることができる。また、ユーザからの情報に基づいても対応を行うことができる。そして、サーバー704は対応が回避か否か判断し(S218)、回避すると判断した場合には、旋回の位置、向き、旋回角度(方位)を特定する(S220)。最初の旋回の位置は、障害物の手前であるが、農業機械100が接続する作業装置106の種類によって旋回可能な距離が異なる。小回りが難しい作業装置106を備える場合には、障害物に対してかなり手前の位置で旋回を開始するようにする。一方、小回りが利く、あるいは小回りが可能な作業装置106を有する場合には障害物の近傍まで直進してもよい。また、旋回方向は、基本的に目的位置まで最短で移動できる方向であるが、障害物の端をS206の工程で送信した画像を認識処理することにより把握できる場合には、迂回路が短くなるように端までの距離が短いほうに旋回する。S206の工程で送信した画像から判断できない場合には、農業機械100のステレオカメラ装置110を進行方向に向かって左右に所定角度回転させ、そのときに撮像した画像を送って端部までの距離を認識するようにしてもよい。旋回角度または旋回後の方位は、経路が最短となるように設定する。障害物の種類(移動する可能性のある動物など)によっては大きく迂回するような旋回位置、方向、角度を設定する。

また2回目以降の旋回位置、方向、角度は、認識した障害物の種類(大きさが特定できるもの)または大きさを推定して特定される。

特定された目的地までのとりあえずのすべての旋回位置、方向、角度はサーバー704から農業機械100に送信され、受信した農業機械100はそれらの情報を使って新しい経路情報に更新する(S222)。

一方、サーバー704が農業機械100の対応として「回避」でない、すなわち、障害物を無視と判断する場合にはS223の工程に移る。たとえば障害物が雑草など農業機械100の進行を妨げるほどのものではなく、かつ、その上を進行しても問題がない場合には、その障害を無視して進行を行う。

なお、以上はS208からS220までの処理をサーバー704で行う例を示したが、これらを農業機械100で行ってもよい。この場合、サーバー704が行うとして説明した部分を、農業機械100が行うと読み替えることになる。

S223では、農業機械100は残りの燃料を確認する。農業機械100が電気モータ駆動の場合には、バッテリの残量を確認する。ここで、燃料あるいはバッテリ残量が少ない場合の全体システム1500の処理については図49を用いて後述する。また、この工程において、制御装置118内部の計時クロックで計時を開始する。

この確認を終えると、経路に沿って進行(S162、S180の場合)または進行と作業(S170の場合)を行う(S224)。なお、この進行は前進、後進双方を含む。また、このS224の工程は図37、図40、図47、図49で説明される。

S224の工程を終えると、農業機械100はS223の工程から所定期間(たとえば3秒)経過したかどうか判断する(S226)。これは制御装置118内部の計時クロックを利用して行う。

そして、所定時間経過していない場合には、S223に戻る。一方、所定期間経過した場合には、現在位置の確認を行い、現在位置情報をサーバー704に送信する(S228)。現在位置の確認はS156の工程で説明したとおりである。なお、S226では、所定時間経過したか否かを判断していたが、これを農業機械100が所定距離移動したか否かで判断するようにしてもよい。

サーバー704は、この現在位置情報をそのときに年月日時刻とともにデータベース708に保存する(S229)。これにより、農業機械100の位置を所定期間間隔でほぼリアルタイムに把握することができる。

次に農業機械100は、目標位置(S162:作業開始位置、S170:作業終了位置、S180:保管位置)に到達したかどうか判断する(S230)。この判断は、S228で求めた現在位置が目標位置と一致するか否かにより行われる。この一致か否かの判断は、位置の特定精度に応じて幅を持たせてもよい。すなわち、現在位置の経度および緯度がある範囲に入っていれば一致と判断してもよい。

ここで、目標位置と現在位置が一致していれば、農業機械100はこの移動処理を終了する(S236)。

一方、それぞれの位置が一致していない場合、農業機械100は現在位置が旋回位置かどうか判断する(S232)。ここでも、厳密に一致の場合だけではなく、ある程度幅をもたせてもよい。ここで農業機械100が旋回位置ではないと判断する場合には、S202の工程に戻る。一方、旋回位置だと判断する場合には、経路情報に基づいて旋回を行う(S234)。旋回動作は、農業機械100の制御装置118が主クラッチ202、変速装置204を操作してギアを1速に入れ、ブレーキ装置208、214を操作しブレーキをかけいったん停止させたり、減速させたりする。その後、制御装置118は舵取り装置122を操作して舵を切りながら前進または後進することにより旋回を行う。なお、低速で走行している場合やそのときの速度で旋回可能な場合には変速や停止を行わずに旋回動作を行ってもよい。その後、S202の工程に戻る。

図37(a)は、S162とS180の場合、すなわち、作業を行わず、所定の位置に到達する場合のS224の動作を示す。農業機械100は、作業開始位置や保管位置へ移動する場合、すなわち、作業を伴わない、単純な移動だけの場合には、進行する(S252)。この場合、その前段階の処理で特定した農業機械100の位置が経路からずれていれば、もとの経路に戻すように農業機械100は舵取り装置122などを操作しながら進行する。また、ステレオカメラ装置110で撮像した画像を利用して、たとえば畝からずれて走行している場合にその軌道を修正するなど、GPSその他の位置把握または位置確認システムでは確認できない微小な誤差を調整しながら正確なルートを走行することが可能となる。これ以前に説明を行った、またはこれ以後に説明を行う「進行」動作でも同様に農業機械100の軌道を経路に戻したり、微小な位置ずれを調整したりする処理を行う。なお、この進行は前進のみならず、後進であってもよい。また、作業開始位置や保管位置、または旋回位置に近づくと減速してもよい。この場合、制御装置118が主クラッチ202、変速装置204、ブレーキ装置208、214を操作して農業機械100は減速動作を行う。

図37(b)は、S170で進行しながら作業対象が個別の農作物ではなく連続的な(あるいは断続的な)作業を行う場合の農業機械100のS224の処理動作を示すフローチャートである。このような作業としては、播種や整地、耕耘、通常の散水、施肥などがある。この場合、作業フローが開始されると(S260)、農業機械100は、進行しながら、所定の作業を行う(S262)。この作業は、図32または図33で設定された作業である。この作業は、農作物や土壌、作業位置などの個別状況に関係なく、設定された作業箇所(領域)において連続的に、あるいは均一に行う作業である。作業が断続的に行われる場合であってもよい。作業は、通常、農業機械100の作業装置106によりなされる。次いで、農業機械100は作業リソースの確認を行う(S264)。作業リソースとは、たとえば、作業の種類が施肥であれば肥料の残量、散水であれば水の残量、播種であれば、種子の残量である。これらが所定量以下または所定量未満になると後述の図49で示される動作に移行する。そして、この進行および作業の最初のサイクルが終了し(S266)、次回以降の走行、作業などの工程に進む。

<均平化作業> 図37(b)で示す処理の一例として、図38から図42を用いて、レーザレーダ装置112を使った圃場の均平化作業について説明する(なお、この例ではS264の作業リソース確認工程は不要なので省略される)。均平化作業は、これまで説明してきた図1で説明した圃場におけるシステム1501と図2で説明した情報通信システム1502による全体システム1500のほかに、圃場内でレーザ受光装置(図39の例における610)またはレーザ照射装置(図42の例における618)など特別な装置が必要となるが、自動運転および自動作業の基本的な動作はこれまで説明を行った動作と同様である。このレーザレーダ装置112は水平画角60度の範囲でレーザ光を照射できるので、通常のレーザを使って整地する場合(レーザレベラーを使用する場合)と比較して手間をかけず効率的な均平化作業を行うことができる。さらにレーザレーダ装置112を回転させることで、レーザ受光装置の設置位置の変更回数をさらに減少させることができる。

図38は、圃場を整地(均平化)するための作業装置106Cを備えた農業機械100Cを示す。この農業機械100Cの構成は、基本的に農業機械100Aと同様であるが、レーザレーダ装置112(およびマルチスペクトルカメラ装置113)がルーフ部に設置されている点で農業機械100Aと異なる。均平化作業において、レーザレーダ装置112の遥動モータ54は、水準器の信号に基づく制御器64からの指令に基づいてレーザが水平に照射されるようにφ軸の回転制御を行う。

この作業装置106Cは、運土や置土作業を行う均平板600と、均平板600にのった土の横こぼれを防ぐサイドプレート602と、表層部を砕土、膨軟し、締りすぎるのを防ぐスプリングタイン604と、砕土、鎮圧を行うためのスパイラルローラ606と、農業機械100Cの制御装置118からの指令により均平板600などを上下動に動かす電動シリンダを有する。なお、作業装置106Cは、農業機械100の制御装置118と信号のやり取りを行い、電動シリンダを動作して均平板600等の上下動を制御する制御プロセッサを備えていてもよい。また、均平板600などの上下動を行うシリンダは、水圧、空気圧、油圧シリンダのいずれかでもよい。

図39は、この農業機械100Cを使って均平化作業を行っている様子の一例を示している。均平化には農業機械100Cの他にレーザ受光器612と無線通信用アンテナ614と制御プロセッサを備えたレーザ受光装置610を使用する。このレーザ受光装置610を畦に設置する。この際、レーザ受光器612の受光面が鉛直方向に平行になるように設置する。レーザ受光器612はこの状態において、鉛直方向および水平方向に複数の受光素子が設置された構成になっており、どの受光素子で受光したかによってレーザを受光する高さを含む位置を判断できる。この図で620は均平化された領域を、630は均平化前の領域を示す。また、640はレーザレーダ装置112により照射されているレーザの様子を示している。このレーザ光がレーザ受光器612のいずれかの受光素子に入射する。また、図中の破線は農業機械100Cの無線通信用アンテナ114とレーザ受光装置610の無線通信用アンテナ614が無線通信を行っている様子を示す。受光した高さの情報、すなわち、農業機械100Cは、農業機械100Cが基準より高い位置にあるのか、低い位置にあるのか、または基準位置にあるのかをこの情報により判断する。

このようなシステム1501において、動作の概要は次のとおりである。すなわち、農業機械100Cはレーザレーダ装置112を使い、レーザ受光装置610のレーザ受光装置610に向かって一次元にレーザを走査しながらレーザを照射する。レーザ受光装置610で受光した位置(高さ)情報をレーザ受光装置610の制御プロセッサが取得し、無線通信用アンテナ614を使って、無線により農業機械100Cに送信する。農業機械100Cは受信した情報に基づき、作業装置106Cの均平板600等を上げ下げしながら進行し圃場を均平化する。

なお、本実施形態においてはレーザレーダ装置112を農業機械100Cの屋根に設置しているが、これを作業装置106Cに設置してもよい。作業装置106Cに設置すれば均平作業を行う均平板600等の上げ下げをレーザ受光器612のレーザ受光位置に情報を用いてタイミングのずれを少なく行うことができるので、より精密な均平化を行うことができる。この場合、レーザレーダ装置112によるレーザ光が農業機械100Cの柱や屋根で遮られないように高い位置に設置し、かつ作業中、レーザ光が水平を保つように制御する必要がある。

図40は、均平化作業を行う場合のS262の工程の詳細を示すものである。この作業の前に初期設定として、レーザ受光器612の標準レベルの高さを均平板600が基準位置にある高さ(均平化後の圃場の平均的な高さ)になるようにレーザ受光装置610を畦に設置する。

作業が開始されると(S300)、農業機械100Cは均平板600等を基準位置にある高さに設定し、レーザレーダ装置112からレーザ光を照射する(S302)。このレーザ光はレーザ受光装置610のレーザ受光器612のいずれかの受光素子に入射する。受光信号はレーザ受光装置610の制御プロセッサに入力され、制御プロセッサはいずれの位置に設置した受光素子か否かを特定し、無線通信用アンテナ614を使って受光位置情報を農業機械100Cに送信する。

農業機械100Cは、受信した情報からレーザがレーザ受光器612の標準位置よりも高い位置で受光したものかどうか判断する(S304)。標準よりも高い位置で受光したということは農業機械100Cが存在する地点で土地が盛り上がっていることを示す。この場合、作業装置106Cの均平板600等を下げて盛り上がった土地を平坦化しなければならない。そこで、S304の工程で農業機械100Cが標準よりも高い位置で受光したと判断した場合には、若干前進を行い(S306)、均平板600等がレーザ光を照射した位置に来る前に受信した情報に応じて農業機械100Cは作業装置106Cに指令を与え均平板600等を下げる(S308)。なお、求める均平化の精度によってはS304の前進を省略してもよい。レーザ受光器612の受光位置が標準位置よりも相当高い場合には、均平板600等を相当下げ、受光位置が標準位置よりも少し高い程度の場合には、均平板600等を下げる程度も少しとする。これは農業機械100Cがレーザ受光装置610から受信した情報に基づく動作である。すなわち、レーザ光の受光位置に応じた均平板600等の上げ下げ量を調整することができる。その後、農業機械100Cを前進させることで(S316)、その作業領域の均平化が行われる。

一方、S304の工程において、農業機械100Cが高い位置で受光していないと判断した場合には、今度は低い位置で受光したか否かを受信した情報に基づいて判断する(S310)。低い位置で受光するということは、レーザ照射時に農業機械100Cは均平化される土地よりも低い位置にいるということである。この場合には、農業機械100Cは作業装置106Cに均平板600等を上げる動作を行わせることによって、均平板600等が均平化する量を調整することになる。このため、S310の工程で農業機械100Cが標準位置よりも低い位置で受光したと判断した場合には、若干前進を行い(S312)、均平板600等がレーザ光を照射した位置に来る前に受信した情報に応じて農業機械100Cは作業装置106Cに指令を与え均平板600等を上げる(S314)。なお、求める均平化の精度によってはS312の前進を省略してもよい。レーザ受光器612の受光位置が標準位置に対して相当低い場合には、均平板600等を相当上げ、受光位置が標準位置よりも少し高い程度の場合には、均平板600等をあげる程度も少しとする。これは農業機械100Cがレーザ受光装置610から受信した情報に基づく動作である。すなわち、レーザ光の受光位置に応じた均平板600等の上げ下げ量を調整することができる。その後、農業機械100Cを前進させることで(S316)、その作業領域の均平化が行われる。

一方、S310の判断で、標準位置よりも低いと判断されない場合には、レーザを照射した時点で農業機械100Cは基準位置の高さにあるので、均平板600等の高さを変化させずにそのまま進行を行う(S316)。

続いて、レーザレーダ装置112を回転させる必要があるかどうか判断する(S318)。 この処理について、図41を用いて説明を行う。

図41は、農業機械100Cとレーザ受光装置610を上空から観察した図である。図中の矢印は農業機械100Cの進行方向を示している。なお、説明の簡単のため、農業機械100Cに接続している作業装置106Cは省略されている。図41(a)は農業機械100Cの進行方向上にレーザ受光装置610が存在する場合である。この場合、レーザレーダ装置112によるレーザ照射は進行方向に対して行えばよく、そうすることでレーザ受光器612において作業を行っている圃場側でレーザを受光する。一方、図41(b)のように、レーザ受光装置610が、農業機械100Cの進行方向からレーザを進行方向にむけて照射した場合にはそのレーザ光を受光できないほどずれた位置にある場合には、農業機械100Cはレーザレーダ装置112を回転させ、レーザ光をレーザ受光器612で受光できるようにする。さらに図41(c)に示すように、農業機械100Cの進行方向がレーザ受光装置610側とは反対になった場合、農業機械100Cはレーザレーダ装置112をさらに回転させて(たとえば図41(a)に対して180度回転させて)、レーザ光を照射する。レーザレーダ装置112の回転が必要か否かはレーザ受光器612のレーザ光受光位置で判断する。たとえば、作業を行っている圃場側で受光できずに側面側のみで受光するようになった場合に、レーザレーダ装置112を回転させるようにするなどである。または特定位置で受光するようになったら、その情報を得て回転させるようにしてもよい。なお、レーザレーダ装置112は回転によって水平位置やレーザの水平面に対する照射角度は変化しない。

そして、S318の工程において、回転が必要と判断された場合には、農業機械100Cはレーザレーダ装置112を回転させる(S320)。このときの回転角度は予め設定している角度だけ回転させるが、それに限られず、受光位置に応じて回転角度を変化させてもよい。なお、農業機械100Cの旋回中も、常に、あるいは定期的にレーザ光をレーザ受光器612に照射し、農業機械100Cはその受光位置のフィードバックを受けてレーザ光がレーザ受光器612に到達するようにレーザレーダ装置112を回転させる。

S318の工程において、回転が不要と判断した場合、またはS318の工程で回転を行った場合、(1サイクル目の)作業を終了させる(S322)。なお、図34、図35、図36、図37(b)に示すように作業開始位置から作業終了位置まで何度も図40の作業は繰り返されることになる。これによって作業箇所全体の均平化を効率的に行うことができる。なお、S318とS320の工程をS316の前に行い、S308とS314に続く処理およびS310で否定的な判断を行った場合に続く処理をS318にするようにしてもよい。

図42は、農業機械100を使って均平化作業を行う他の例を示している。均平化作業に使うレーザ光の照射は、レーザレーダ装置112−2を備えたレーザ照射装置618から行われる。レーザ照射装置618はレーザレーダ装置112−2を水平方向に沿って電動で回転させるステージ622とこのステージ622を支える長さや角度を調整可能な三脚と、農業機械100との無線通信用のアンテナ624と制御プロセッサを備える。レーザ照射装置618のレーザレーダ装置112は、φ軸回りに回転させる必要はないので、そのための機構(遥動モータ54)を省略できる。または、φ軸周りに回転しないように固定してもよい。このレーザ照射装置618は三脚により、畦にレーザ光が水平に出射されるように設置される。農業機械100は、レーザ受光用機器616を有する作業装置106C−2を接続し、均平化作業を行う。レーザ受光用機器616は、鉛直方向に延びたポールの上方にレーザ受光器612−2を設置する。レーザ受光器612−2は鉛直方向と水平方向に複数の受光素子を備えている。水平方向の受光素子はレーザ受光器612−2の一周にわたって複数配置される。レーザ受光用機器616が検知したレーザ光の高さ情報は、農業機械100の制御装置118に入力される。作業装置106C−2は、レーザ受光器612−2が受光したレーザ光の位置に応じて、農業機械100の制御装置118からの指令で均平板等を上下する電動シリンダを備えている。なお、レーザ受光用機器616はその検知した受光素子に位置に応じて電動シリンダを動作させ、均平板等を上下動させる制御プロセッサを備えるものであってもよい。なお、図中の破線は、無線によるレーザ照射装置618と農業機械100の通信を示す。

このようなシステム1501において、均平化作業は次のように行われる。まず初期設定として、畦に設置するレーザ照射装置618の三脚を、レーザレーダ装置112−2から照射されるレーザ光が水平になり、かつ、作業装置106C−2の均平板を基準となる高さの土地に設置した状態でレーザ受光器612−2の標準位置にレーザ光が照射されるように調整する。次いで、レーザ光をレーザ受光器612−2に向けて照射する。農業機械100は、受光した受光素子の位置から前記標準位置に対して高い位置で受光したか低い位置で受光したか判断し、標準位置よりも高い位置で受光したと判断した場合には、土地が盛り上がっているので、農業機械100は均平板を下げて進行し、土地を均平化する。一方、標準位置よりも低い位置で受光したと判断した場合には、土地が基準よりも下がっているので、農業機械100は均平板を上げて進行し、土地の均平化を図る。なお、均平板の上げ下げは、受光位置が標準位置からどの程度離れているかにしたがう。すなわち、受光位置が標準位置から離れて受光されればされるほど、均平板を大きく上または下に動かす。さらに標準位置で受光した場合には、均平板は基準高さにあるので、均平板はそのままの高さで進行する。次いで、農業機械100はレーザ受光器612−2内の水平方向においてどの受光素子で受光したかを把握する。その受光位置に応じてレーザレーダ装置112−2のレーザ照射角度を変更させる必要があるかどうか判断する。必要がない場合には、とくに通信は行わない。一方、次の作業以降もレーザ光を受光できるように角度変更の必要があると判断する場合、農業機械100はその受光位置に応じてレーザ照射装置618のステージ622を回転させるための情報をレーザ照射装置618に送信する。レーザ照射装置618の制御プロセッサは受信した情報に基づいてステージ622を所定角度回転させる。これにより、農業機械100が作業領域のどの位置で作業をしていても、いつでもレーザ光を受光することができる。

このような作業を繰り返すことで、このシステム1501は作業領域の均平化を効率的に図ることができる。この例の動作を図40で説明すると、S302は農業機械100ではなく、レーザ照射装置618が行う動作となる。また、S320のレーザレーダ装置の回転も農業機械100ではなく、レーザ照射装置618が行う動作となる。

なお、圃場に所定の傾斜をもたせて整地したい場合には、レーザレーダ装置112または112−2におけるφ軸をレーザ光水平照射の角度から所定角度だけ回転させるようにすればよい。

<個別作業> 農作物などの作業対象ごとに作業の必要性を判断し、必要な場合にのみその作業対象に対して作業を行うことで全体の作業の効率化を図ることができる。図43から図47を用いて、今度は圃場におけるシステム1501と図2で説明した情報通信システム1502とによる全体システム1500によって自動制御により行うことができる、作物等の状況に応じて個別に行う作業の動作について説明を行う。なお、個別に行う作業としては、施肥、播種、移植、収穫、除草、農薬散布・噴霧、散水、刈払などがあるが、ここでは主として施肥を例に挙げて、作業の様子の説明を行う。なお、システム1501の動作は施肥以外の農作物等ごとに個別に行う作業に対しても適用することができる。

図43は、本実施形態における全体システム1500を使用して施肥作業を行っている様子を示す図である。農業機械100は、実線で示した正常に育成している(植物活性度が高い)農作物350及び点線で示す育成不良の(活性度が低い)農作物360が栽培されている圃場を自動で育成不良の農作物360のみに作業(施肥)を行いながら自動で走行している。また、圃場には、高い位置から植物の生育状況をモニタリングするためのマルチスペクトルカメラ(または測色カメラ)を備えた状態モニタリング装置550が設置されており、農業機械100と無線通信を行っている。さらに、全体システム1500ではモニタリング装置500、550、555などで撮像した画像から撮像画像内における所定の位置を特定するための複数の標識370が存在する。この標識370はそれぞれ異なる番号や文字、色、模様、図形、形状が(あるいはそれらの組み合わせが別々に)施されており、それらが設けられている位置はシステム1501において既知となっている。図32の説明においては、作業を行う作業箇所の特定はユーザ端末710、712からのデータに基づいて行われたが、サーバー704は状態モニタリング装置550からの情報に基づいて作業箇所を特定することもできる。この動作については図46を用いて、後ほど説明する。なお、図43中、円で囲っている箇所に生育不良の農作物360が集中していることを示している。

図44は、システム1501における農業機械100の作業状況の様子を示す図である。この農業機械100は、本体に施肥用の作業装置(施肥機)106Dが接続されている。農業機械100はマルチスペクトルカメラ装置113で農作物350、360の生育状況を確認し、その確認結果に応じて生育不良と判断された農作物360の近辺に肥料802を散布する。農業機械100は無線通信用アンテナ114を使ってその施肥の情報または植物状況の情報を送信し、圃場モニタリング装置555を中継してサーバー704に送っている(図では点線で示す)。なお、農業機械100は無線が届く範囲に無線アクセスポイント700が存在する場合などには、圃場モニタリング装置555などの中継を行わずにサーバー704に送信してもよい。また、他の無線アクセスポイントなどの中継を経由して情報を伝達してもよい。

図45は、植物に肥料を供給するための作業装置(施肥機)106Dの主要部分を示す。上の図は施肥機の外観を示す一方、農業機械100本体との接続部分等は省略して示す。この図中の点線で示す面で切った断面図が下の図である。この施肥機106Dは、金属製の筐体800と肥料送り装置810と打ちほぐし胴812と散布部804と赤外線センサ806と肥料投入口808を備え、本体内に肥料802を備えている。肥料802は肥料投入口から筐体800内に投入される。農業機械100は、農業機械100の制御装置118からの指示により制御されるPTO軸222の駆動または電源228からの電流によって肥料送り装置810と打ちほぐし胴を駆動することで、肥料802を打ちほぐしながら散布部804に送り、散布口から肥料802を散布する。また、赤外線センサ806は肥料の残量を検出する。検出した肥料残量の情報は、制御装置118に伝達される。なお、散布部804は柔軟に曲げることができ、散布口を農業機械100の進行方向に対して右側にも左側にもあるいは後ろ側にも設定することができる。

図46は、サーバー704が、状態モニタリング装置550などからの情報に基づいて作業箇所を特定するための動作を示すフローチャートである。この図に基づいて状態モニタリング装置550などからの情報を使ってサーバー704が作業箇所を特定する動作を説明する。この処理を行うことによって広い領域内において予め作業箇所を特定できるようになり、作業の効率化、迅速化を図ることができる。

サーバー704は処理が開始されると(S330)、まず状態モニタリング装置550で圃場のある領域を撮像した画像情報と画像情報以外の付加的な情報(植物の生育状態を示す情報(NDVIなど)や病害虫の情報や霜情報、害虫等による変色情報、土壌情報、糖度情報など)を取得する(S332)。なお、サーバー704は状態モニタリング装置550から、情報処理前のたとえば分光反射率の情報を取得することによって、それを処理して植物の生育状態を示す情報(NDVIなど)を求めるようにしてもよい。

サーバー704は、これらの画像と付加情報から散水や肥料散布、除草などの作業が必要な植物が存在する箇所を検出する(S334)。これは、たとえばNDVIが所定値以下または所定値を下回る箇所を分光画像内で特定することにより行う。NDVI以外には可視赤域の波長(たとえば660nm)に対する分光画像において分光反射率が所定値以下または所定値を下回る箇所を特定するようにしてもよい。なお、サーバー704は、状態モニタリング装置550にかえて、または状態モニタリング装置550とともに圃場モニタリング装置500、555等で検出された情報を取得して、作業必要箇所を検出してもよい。

続いて、サーバー704は検出した箇所の位置を特定する(S336)。これにはまずサーバー704は、S208の工程と同様に画像認識処理を行い、撮像した画像に存在する複数の標識370をそれぞれ認識する。サーバー704はそれら認識された複数の標識の位置を求める。そして、サーバー704は認識された複数の標識と作業が必要な箇所の位置関係から、作業が必要な箇所の位置を特定する。

そして、サーバー704は、特定した位置を作業箇所として農業機械100およびユーザ端末710、712に送信して(S338)、処理を終了する(S340)。これによって、農業機械100は農作物350、360の生育状況その他の状態を作業可能な領域すべてに渡って一つ一つ計測しなくてもよくなり効率的に作業を行えるようになる。このため、作業時間を短縮することができる。ユーザも作業が必要な箇所を把握することができる。

続いて、このような作業対象としての農作物毎に状況を確認しながら個別に作業を行う場合の動作について図47を用いて説明する。この図47は、ある対象ごとに個別に作業を行う場合の図35のS224の工程を詳細に説明するものである。

処理が開始されると(S350)、農業機械100は画像情報と付加的な情報を取得し、サーバー704に送信する(S352)。この際、農業機械100の進行を一旦停止させてもよい。この工程は、農業機械100が有する画像センシング装置であるステレオカメラ装置110または/およびマルチスペクトルカメラ装置113で得られた撮像画像情報およびそれらの装置から得られる画像情報以外の付加的な情報(ステレオカメラ装置110であれば視差値または距離情報、マルチスペクトルカメラ装置113であれば波長ごとの分光反射率情報またはその分光反射率を使って算出した情報)であってもよいし、それら撮像画像情報と画像情報以外の付加的な情報に加えてレーザレーダ装置112で得た距離情報や形状情報といった画像情報以外の付加的な情報であってもよい。またさらに、農業機械100、サーバー704、ユーザ端末710、712のいずれかから状態モニタリング装置550または圃場モニタリング装置500、555に要求され撮像された画像または状態モニタリング装置550または圃場モニタリング装置500、555が自律的に撮像した画像および波長ごとの分光反射率情報またはその分光反射率を使って算出した情報(状態モニタリング装置550)または偏光情報や日照領域などの情報(圃場モニタリング装置500、550)を取得し、サーバー704に送信してもよい。さらには、画像センシング装置110、113、501以外から取得した画像情報以外の情報(たとえば、環境モニタリング装置などが取得する気温、湿度やインターネット702を経由して取得する天気予報や日照時間などの情報)をサーバー704に送信してもよい。この場合、S352の工程は農業機械100以外のモニタリング装置500、550、555または/およびサーバー704が行ってもよい。この工程で取得し、送信する情報は、農業機械100が何の作業を行うかによって異なる。たとえば、肥料散布の作業であれば、対象となる植物の生育状態を調べるため、または/および土壌状態を調べるためにマルチスペクトルカメラ装置113で撮像した分光画像と分光反射率情報が適している(農業機械100のマルチスペクトルカメラ装置113で取得したものか、状態モニタリング装置550のマルチスペクトルカメラ装置113で取得したもののいずれか)。雑草を除草する作業の場合には、植物の種類を正確に判別するために偏光ステレオカメラ装置で捉えた偏光画像と物体までの距離情報が適する。さらに、果実を収穫する作業の場合には、果物の大きさや色、糖度を把握するためのマルチスペクトルカメラ装置113で撮像した分光画像と分光反射率情報に加え、作業装置106としての収穫ロボットの果実切断保持アームを確実に果実周辺の所定の位置に移動するための情報としてステレオカメラ装置110で捉えた画像情報と果実までの距離情報が必要となる(またはステレオカメラ装置110に代えて、レーザレーダ装置112で測定した距離情報であってもよい。レーザレーダ装置112はマルチスペクトルカメラ装置113近傍に存在するので狙いの果実に対する位置の検出を精度よく行うことができる)。さらには、水遣り作業の場合には、たとえば、植物活性度を調べるためにマルチスペクトルカメラ装置113で取得する画像や分光反射率などの情報に加え、散水の必要性を判別するためにインターネット702経由で天候予報(降水量予測)なども取得する。なお、作業はここで述べた作業のみならず、農作物等ある単位ごとに作業を行う施肥、播種、移植、収穫、除草、農薬散布・噴霧、散水、刈払などすべてに適用することができる。この場合、画像情報と画像情報以外の付加的な情報を取得することになる。

情報を受信したサーバー704は、その情報を分析し、作業に必要な情報を生成し、農業機械100に送信する(S353)。この情報分析も行う作業に応じて変わる。たとえば、肥料散布の作業であれば、サーバー704は図35のS208の工程で説明した場合と同様に画像認識を行い、認識した葉ごとにNDVI(植物の活性度)を調べたり、土壌のスペクトル分布を調査したりする。その結果、肥料を散布する必要があるかどうか判断する。雑草を除草する作業の場合にはサーバーは画像認識(S208の工程と同様)を行い、対象物が雑草であるか否かの判断を行い、雑草であると判断するときには、除草剤散布またはピックアップ用のアームをその位置まで持っていくためにその雑草までの距離を求める。果実を収穫する作業の場合には、果実の大きさや色、糖度などを分析し、収穫するか否かを判断する。収穫すると判断する場合には、果実切断保持のロボットアームがその果実周辺の所定位置まで到達できるよう、所定位置までの距離を算出する。さらには、植物活性度や降水予想量から散水作業の要否を判断する。なお、このS353の工程は、農業機械100で行ってもよい。

サーバー704による判断結果を得たその情報に基づいて農業機械100は作業を行うかどうか判断する(S354)。

S354の工程で、農業機械100が作業を行うと判断した場合、作業対象が作業装置106の作業領域内になるまで進行する(S356)。

農業機械100は、作業が必要とされた農作物などの作業対象近傍に作業装置106による作業可能領域が到達したかどうか判断する(S358)。ここで、この判断は、撮像などを行った地点から作業領域と撮像を行った装置までの既知の長さ分を移動したかどうかで判断する。これにはステレオカメラ装置110で前方の距離を計測しながら進むか、車輪の回転数から距離を計測して正確に行う。作業の内容によっては位置が少しでもずれると作業に支障をきたしたり作業を失敗したりする可能性があるからである。またS352の情報取得を状態モニタリング装置550で行った場合にはサーバー704は複数の標識370から農業機械100の位置を特定し、移動すべき距離を計算する。その距離情報を農業機械100に送信し、農業機械100をその距離だけ移動させる。

なお、S156で説明した位置の特定を作業に支障をきたさない程度に正確に行える場合には、進行前後で特定した位置を比較することで判断してもよい。

なお、作業装置106近傍に画像センシング装置(ステレオカメラ装置110、マルチスペクトルカメラ装置113、全天球カメラ装置501)やレーザレーダ装置112などが有る場合など画像情報などを取得した地点で作業を行える場合にはS356の工程は省略する。

作業対象が作業装置106の作業可能領域になるまでS358の判断とS356の進行は繰り返す。作業対象を行き過ぎた場合にはS356の工程で後進してもよい。

農業機械100が、作業が必要とされた農作物などの作業対象近傍に作業装置106の作業可能領域が到達したと判断した場合には、農業機械100は作業を実施する(S359)。

作業を実施し終えると、農業機械100は作業位置(作業対象)、作業内容、作業の成功・不成功の別、作業時間などの作業情報をサーバー704に送信する。送信する作業情報は、作業の種類によって変わる。たとえば、作業が収穫だと、作業位置、作業内容、作業の成功不成功の別、作業時間を送信する。作業が散水だと、作業位置、作業内容、散水量、作業時間を送信する。サーバー704はこのような作業情報を受信すると、データベース708にそれらの情報を保管する。このように、全体システム1500は作業位置や作業対象ごとに行われた作業を蓄積していくので、課金処理に使ったり、作業条件と生育条件の比較を行い作業対象に適した作業条件の特定を行ったり、将来の収穫予測のためのデータの蓄積を行ったりできる。サーバー704は一定期間(たとえば月や年、または栽培開始からの経過日数)における、作業対象ごとの作業情報を集計し、集計した作業情報(作業内容)をユーザ端末710、712で表示できる形でそれら端末に提供することができる。また、この作業情報は情報財なので、独立して商取引の対象とすることもでき、たとえば、システム利用者に販売するものであってもよい。

一方、S354の工程で農業機械100が作業不要と判断した場合には、S362に進む。

S362では、農業機械100はユーザ端末710、712(図32の例)または状態モニタリング装置550(図46の例)によって作業箇所として指定された領域の作業が完了したかどうか判断する。この判断は、その作業箇所の最終位置と現在位置を比較して行う。位置の特定方法は、図34のS156の工程の説明と同様であり、比較は図36のS230の工程と同様である。

農業機械100が作業完了位置にあると判断した場合、農業機械100は次の作業箇所があるか否か判断する(S364)。これはサーバー704から送信された情報(図33のS130や図46のS338)により判断する。

その結果、次の作業箇所があると判断した場合、農業機械100はその作業箇所への経路を算出する(S366)。これは、図34のS160やS178の工程と同様の方法で最短経路の算出を行う。

続いて、農業機械100は作業リソースの確認を行う(S368)。作業リソースとは、作業を行うために必要な資源であり、たとえば、作業が肥料や水遣りの場合には肥料や水、収穫の場合には収穫物を格納するスペース、播種の場合には種子などである。このS370はS362およびS364で否定的な判断をされた場合に引き続く処理としても行われる。作業リソースが十分にないと農業機械100が判断する場合のシステム1501の動作は、図49を用いて詳細に説明される。

作業リソースの確認後、農業機械100は同一作業領域内の次の作業位置または次の作業領域(作業箇所)に向かって進行し(S370)、1サイクル目の作業を終了する(S372)。なお、S370の進行は前進だけでなく、後進でもよい。S370での進行は、次の個別判断の対象物の画像などが取得できる位置まで行う。この位置は予め農業機械100やサーバー704が把握していてもよいし、農業機械100のステレオカメラ装置110やマルチスペクトルカメラ装置113などで取得する画像に基づいて特定してもよい。

また、S368とS370の工程の順序を入れ換えてもよい。この場合、S362およびS364の肯定において否定的な判断をした後に引き続く工程はS370になる。

このような動作を行うことで、移動と対象物の状態に基づく個別の作業と経路移動を1回だけで行うことができ、効率的に作業を完了させることができる。

なお、この例では作業対象個別の状況(植物活性度など)を計測しながら、個別に施肥などの作業を行う例を説明したが、これに限られず、個別には状況の計測を行わずにすべての農作物350および360等の作業対象となりうる作業箇所内の領域において個別に施肥などの作業を行うこともできる。また、測定した育成状況などの作業対象個別の状況に応じて作業リソース(たとえば肥料)の量を制御するようなきめ細かい作業を行うことも可能である。

<作業中断処理> 自動制御による移動や作業を行う場合に、その移動や作業が中断するような場合にも自動的に対処することが望まれる。とくに燃料切れによる移動不可などの中断事由が発生する以前にその中断を予測することで、手動によらなければ復帰ができなくなる前に処理を講じておくことが望ましい。図48から図51を用いて、農業機械100の燃料(バッテリ)残量が少なくなったり、肥料などの作業リソースが少なくなったりした場合の作業中断の処理について説明を行う。なお、圃場モニタリング装置500,555によって、何らかの異常を検知した場合のように燃料やバッテリ、作業リソース以外の事情で作業が中断される特別な場合については、図52から図56を用いて詳細に説明がなされる。

図48は、バッテリの残量が少なくなった場合に、電気駆動の農業機械100Bが作業を中断してバッテリ充電を行う過程の様子を示す図である。農業機械100Bは、電気駆動型の農業機械であり、図6に示す伝動装置104−2を備えている。作業装置106Bとして、播種装置を備えており、作業箇所で所定の経路を通って種子をまいている。図中の破線は、この農業機械100Bが作業を行ってきた経路を示し、点線で示す領域において播種が行われている。この圃場の周辺には複数の標識370が存在する。今、農業機械100Bは図の位置でバッテリの残量が残り少なくなっており、作業を最後まで完了させることができなくなったと判断する。この場合、中断位置を記憶し、さらにステレオカメラ装置110により、一番近くにある標識370との距離Dを計測し、記憶する。この距離Dは、バッテリ充電後に作業を再開する位置を正確に特定するために使用するものである。その後、農業機械100Bは、実線で示す経路をとおり、バッテリ充電のため、外部電源226(非接触電力伝送装置)に行くことになる。そして、充電完了後、作業中断位置に移動し、正確な中断位置から作業を再開する。このように、全体システム1500によれば、できる限り自動の制御で、燃料やバッテリ、作業リソースの補充を行うことができ、作業の効率化を図ることができる。

以上の動作について、詳細に説明したのが、図49である。図49は、作業(または移動)中断時の動作フローチャートである。この図49も図35におけるS224の工程の作業(作業中断時の別作業)という位置づけで説明がなされる。

前提として、図35のS223の工程で農業機械100が燃料(内燃機関式農業機械)またはバッテリ(電気駆動式農業機械)の残量が所定量よりも少なくなった、または所定量以下になったことを認識するか、図47のS368で農業機械100が肥料や種子などの作業リソースが所定量よりもよりも少なくなった、または所定量以下になったことを認識したことにより、この動作フローは開始される(S400)。

まず、農業機械100は目的の動作(充電や作業リソース充填、確保)が完了しているか判断する(S402)。この処理の開始直後では、この判断では、まだ完了していないと判断するので、続いて作業中断年月日時刻や中断位置や特定した対象物との距離などの作業中断情報(S416の情報)またはS418の走行中断情報をすでにサーバー704に送信したかどうか判断する(S405)。この判断も開始直後においては、送信していないと判断するので、続いて、農業機械100が何らかの作業(たとえば、施肥、整地、収穫など)中か否か判断する(S408)。ここでは、農業機械100が何らかの作業であると判断したとすると、農業機械100は作業を中断する(S410)。すなわち、農業機械100は、制御装置118によって、走行を停止し、作業装置106による作業も停止する。続いて、農業機械100は、図34のS156の工程での説明と同様の方法を用いて現在位置を確認し、制御装置118内に記憶する(S412)。

そして、ステレオカメラ装置110を使って、標識370その他の特定の対象物からの距離を測定し、制御装置内に記憶する(S414)。これにはまず、対象物を認識する必要がある。この認識には、図35のS202、S204の工程で説明したような障害物の特定と同様にして前方にある何らかの物体を特定するか、同図のS208の工程で説明した画像認識処理を行って特定の対象物を検知する方法がある。前者は後者に比べて迅速に行えるが、精度は後者に比べて悪い。続いて、特定した対象物のある位置との距離を測定する。この位置は、その対象物の中心とするが、それに限定されず、たとえば、あるエッジとなるような箇所としてもよい。

図50はこの対象物を含む撮像画像と測定した距離の例を示す。対象物は、図50(a)に示すように標識370(この標識は「12」番を示している)といった人工物でも、図50(b)のように樹木372のような自然物でもよい。図50(a)では、農業機械100(ステレオカメラ装置110)から標識370(黒丸で示す中央部分)までの距離が17.2mであることを示している。図50(b)では、農業機械100(ステレオカメラ装置110)から樹木372(の枝先端)までの距離が19.0mであることを示している。なお、撮像画像に移る複数の地点との距離を測ってもよい。また、農業機械100が複数のステレオカメラ装置110を備えるときは、2以上のステレオカメラ装置110が撮像した画像において、1以上の地点との距離を計測してもよい。これらにより、作業再開時の農業機械100の開始位置合わせをより正確に行うことができる。続いて、サーバー704に作業中断年月日時刻や中断位置や特定した対象物との距離といった作業中断情報を送信する(S416)。

サーバー704はこれらを受信するとユーザ端末710、712に作業中断情報を送る。これにより、ユーザは、作業が中断したことを把握することができる。また、サーバー704は作業中断情報をデータベース708に保存する。作業ログを残すとともに、後述の課金処理を正確に行うためである。

続いて、農業機械100は目的とする動作(充電や作業リソース充填、確保)を行う位置までの経路を計算する(S419)。この経路計算は、サーバー704に行わせてもよい。なお、目的とする動作を行う位置は、予めそれらの位置が記憶されているサーバー704から与えられるが、それに限らず、農業機械100が有していてもよい。また、ユーザ端末710、712を介して、ユーザに指定させてもよい。この計算は図34のS160やS178の工程で説明したのと同様で、基本的に最短の経路を算出する。また、S408で作業中と判断しなかった場合(たとえば、作業位置などに向かって走行している時)には、その現在位置をS412の工程と同様の方法により確認し、現在位置情報および走行中断情報をサーバーに送信し(S418)、現在位置と目的の動作を行う位置までの経路を上記同様に算出する(S419)。なお、この場合にもサーバー704に、経路計算を行わせるようにしてもよい。

そして、経路に沿って、農業機械100は進行する(S420)。なお、この進行は前進、後進の両方を含む。なお、S405の工程で、すでに農業機械100が作業中断情報をすでに送信済みと判断する場合には、処理はこのS420に進み、進行を行う。

ついで、所定時間(たとえば1秒)経過後、農業機械100は、目的の動作を行う位置に到着したか否かを判断する(S422)。この判断は図36のS230やS232の工程で説明したような方法で行う。なお、所定期間ではなく、所定距離(たとえば50cm)進行ごとにS422の判断を行ってもよい。この判断で到着していないと判断した場合には、この作業中断の処理を一旦終了し、図35、図36の一連の動作を経て、再度S400の処理から再開される。一方、S422の工程で、農業機械100が目的の動作を行う位置に到着したと判断した場合、目的の動作を行う(S424)。この動作は、図48で示すシステム1501のように無人で自動的に行うものであってもよいし、手動により行われるものであってもよい。たとえば、人手によって、軽油やガソリンを農業機械100の燃料タンクに供給するものであったり、肥料を作業装置に補充するものであったりする。この動作は、S426によりモニタリングが行われ、目的の動作が完了するまで行われる。たとえば、農業機械100は、センサによって、所定量のバッテリ充電が完了したり、肥料が所定量以上供給されたり、収穫物収納用スペースから収穫物が取り除かれたりした場合に目的動作完了を検知し、動作完了と判断する。図51は外部電源(非接触電力伝送装置)226によって農業機械100Bのバッテリ224−2に充電が行われた直後の様子を示す。

続いて、農業機械100は目的の動作終了年月日時刻と目的動作内容(バッテリや燃料、肥料等がどの程度供給されたか)などの動作終了情報をサーバー704に送信し、さらに作業中断位置までの経路または作業開始位置や保管位置への経路を計算する(S427)。サーバー704はユーザ端末710、712の動作終了情報を送信し、データベース708にそれらの情報を保管する。経路計算手法はこれまで説明した手法(S419など)と同様であり、サーバー704で行ってもよい。

そして、農業機械100は進行(前進または後進)を行う(S430)。たとえば図52で示すように、バッテリ224−2に十分な電気を充電できた場合には作業を再開するために作業中断位置に向けて進行を開始する。なお、目的動作完了後の2回目以降の図49の動作ループにおけるS402の工程で農業機械100が目的の動作を完了していると判断する場合にもこのS430の工程につながる。

そして、所定期間経過後に農業機械100は作業を中断したか否か判断する(S431)。作業中断したと判断しない場合には、S444に進み、この処理を一旦終了させる。

一方で農業機械100が作業を中断したと判断した場合、作業中断位置近傍に到着したかを判断する(S432)。この判断は、基本的にはS422と同様の方法により行われるが、一致判定の幅をさらに広くし、近傍か否かを判断するようにしてもよい。

次いで、農業機械100はステレオカメラ装置110を使ってS414と同様の方法により、S414で測距した対象物に相当する対象物を特定し、それとの距離を測る(S434)。

このS434で測定した対象物との距離とS414で測距し、記憶した距離が等しいかどうか判断する(S436)。なお、S414で一つのステレオカメラ装置110で複数の地点または複数のステレオカメラ装置110で複数の地点との距離を測定している場合には、S434でもすべての対応位置を測距し、それらすべてが一致するかどうか判断する。なお、一致の精度は、ステレオカメラ装置110の測距の精度に応じて決められる。

そして、S436の判定で、一致しないと判断した場合には、農業機械100の制御装置118は舵取り装置122や伝動装置104を動作させて農業機械100を前後左右に動かし、その距離を一致させるようにする(S438)。1回以上測距をし直して距離が一致すれば、作業中断位置と作業再開位置が一致したと判断し、作業再開年月日時刻とともに作業再開情報をサーバー704に送信し(S440)、進行作業を開始する(S442)。サーバー704は作業再開情報、開始時刻をユーザ端末710、712に送信し、さらにはデータベース708にそれらの情報を保存する。一方、S436の工程で農業機械100によって、距離が一致していると判断されると、S440へと進むことになる。このように対象物との距離の一致をみることにより、位置情報に多少のずれがある場合でも作業中断位置と再開位置を精度よく一致させることができる。これによって、たとえば、重複や作業を行っていない隙間ができることなく、作業を行うことができる。

このようにして作業が再開されると、図49で示す動作フローは終了し、図40や図47の作業のループで処理が行われることになる。

<異常検知時の動作> 圃場が広大になればなるほど、たとえば害獣などが侵入するなど異常が発生した場合にマニュアルで追い払うことは大変である。そこで、そのような場合でも自動的に異常に対応できることが望ましい。図52から図56を用いて、圃場において異常の発生を検知した場合の動作を説明する。図52は、圃場モニタリング装置500を通じて、異常イベントを検知した場合(本例では、農作物に被害を与える可能性のある異常源(主に動物のいわゆる害獣)1000を検知した場合)に、自動制御の農業機械100を使って異常源1000を観測しにいき、異常源1000への対処を行う様子を示すものである。図中の破線は無線通信による情報の送受信を示すものである。この例では、圃場モニタリング装置500と農業機械100の間で情報のやり取りを行っているが、これに限らず、サーバー704を介した情報のやりとりでもよい。また、異常の内容は圃場に害獣が侵入したというものに限られず、人的あるいは自然の力によって発生する異常事態すべてを含む。たとえば、火事や見知らぬ者の不法侵入などである。

図53は、図52の農業機械100の動作をより詳細に説明するための図であり、図52の圃場を上方から観察したものである。図に示すように、農業機械100は農作物910が栽培されている領域を避けながら、最短経路で異常源1000に接近する動作を行う。

図54、図55は、この異常イベントが発生した場合の本実施形態の全体システム1500の動作を示すものであり、主としてサーバー704と農業機械100の動作を説明する。図54は、異常イベント発生から異常への対処完了までの動作を説明するものである。一方、図55は、図54のS502(図49のS400からS444と同様の動作)の工程におけるS422の動作の詳細を説明するものである。

異常イベント発生時のフローは圃場モニタリング装置500に写る(映る)画像に異常を検知することにより開始される(S450、S452)。これは、圃場モニタリング装置500が撮像した画像をサーバー704に送信し、サーバー704がその画像を解析することにより実行される動作である。サーバー704は図35のS208の工程と同様に画像認識を行い、たとえば圃場モニタリング装置500が撮像した画像内に農業機械100や農作物910、システム利用者(ユーザ)以外のものが映し出された場合に異常が発生したと検知する。なお、他のモニタリング装置550、555で撮像した画像から異常を検知するものであってもよい。

サーバー704は、この異常を検知するとユーザ端末710、712に異常を検知した旨と異常状態を撮像した画像、その年月日時刻などを送信する(S454)。そして、データベース708にもユーザ端末710、712に送信した情報と同様の情報を保存する。

続いて、サーバー704は、発生した異常に対する処理が完了したか否かを判断する(S456)。異常イベント発生直後では、通常、処理は完了していないので次のS458の認識処理に進む。認識処理は、異常を検知した箇所について、図35のS208の工程と同様に画像認識を行う。この認識処理は、異常箇所の特徴量を求め、データベース706等に格納された標準パターンと比較することにより行う。この工程は、サーバー704自体が処理完了を行う場合と農業機械100が処理完了(S502の工程内において行われるS428の動作終了通知)を行い、その情報を受信してサーバー704が処理完了を判断する場合の両方を含む動作である。

S458の認識処理の結果、サーバー704は異常内容を認識できたかどうか判断する(S460)。そして異常の内容を認識できた場合には、その異常内容に応じた動作を行う(S462)。この動作は、異常内容ごとに定義されており、たとえば、無視する、一番近い位置にある農業機械100を接近させて警笛などを使って威嚇する、異常に対して散水する、などがある。そして、その後、S456の工程に戻り、サーバー704が異常に対する処理が完了したと判断すると、異常イベント発生時の処理は終了する(S474)。

一方、S460の工程で、サーバー704が異常の内容を確認できない場合には、サーバー704は、圃場モニタリング装置500などで撮像した画像内に存在する位置が既知の複数の標識370などから異常領域の場所を特定する(S464)。

そして、異常内容の確認のために、サーバー704は農業機械100へすでに指示をだしているか判断する(S468)。まだ指示をしていないと判断する場合には、サーバー704はデータベース708に記憶されている情報を使って異常箇所(異常領域)から一番近くに存在する農業機械100を特定し、異常内容確認の指示を出す(S470)。なお、農業機械100は、異常箇所へ直線距離で一番近いものではなく、異常箇所への経路が一番近いものを特定してもよい。

サーバー704は、特定され、異常内容確認の指示がなされた農業機械100に異常箇所の位置情報を送信する(S472)。

一方、S468の工程で、すでに農業機械100へ異常内容確認の指示を出していると判断する場合には、サーバー704はS472の工程へ進み、S464で特定した異常箇所の位置情報を送信する。そして、サーバー704はS456の工程に戻る。

これに対して、農業機械100は次のように動作する。ここで説明するS500、S501、S502は、異常イベント発生時における図35のS224の工程を示すものである。 S204またはS223の工程からS224の工程に進むと、農業機械100は(最初だけ作業を中断させ、異常内容確認を行わせるための)S470の工程の指示、およびS472の異常箇所の位置情報を受信する(S500)。そして、農業機械100は、異常箇所の位置情報にあわせて進行経路を再計算する(S501)。害獣が侵入する場合のように異常箇所は常に所定の箇所にとどまっているとは限らないので、農業機械100はS500の工程で毎度異常箇所の位置情報を受信する。そして、位置が変わる場合にはS501の工程で農業機械100は進行経路の更新を行うことになる。農業機械100は、本来の作業を中断し、S400からS444で定義される作業中断時の処理を行う(S502)。そして、S502の工程が終了するとS226の工程に進むことになる。

なお、以上の動作は圃場モニタリング装置500などで撮像した画像を元にサーバー704が実行する処理として説明したが、モニタリング装置500、550、555でS450からS472で説明した処理を行ってもよい。

また、本異常発生時の処理は、圃場モニタリング装置500などで撮像した画像に基づいて始まっているが、農業機械100に設置されたカメラ装置110、113などによって異常を検知した場合に開始してもよい。この場合、異常内容を撮像した農業機械100が処理を行うことになる。

図55は、S502の工程における異常イベント発生時のS422の工程(目的の位置に到着したか否かの判断)の動作を詳細に説明するものである。この処理は、農業機械100とサーバー704の連携により実行される。

S420の工程を終えると、農業機械100に搭載したステレオカメラ装置110(あるいはマルチスペクトルカメラ装置113)により異常内容を検知したかどうか判断する(S550)。これは、農業機械100がサーバー704などから送信された異常箇所の位置近傍に何らかの物体を検知するかどうかが判断する。この判断手法は図35のS202、S203で説明した方法を使う。

そして、異常内容を検知していない場合にはS444の工程に進む。一方で、異常内容を検知した場合には、農業機械100は進行をとめる(S552)。そして、ステレオカメラ装置110などで撮像した異常内容を含む画像と距離情報、現在位置などをサーバー704に送信する(S554)。

サーバー704は異常内容について画像認識処理を行う(S558)。画像認識処理については、図35のS208の工程と同様の方法が使われる。そして、サーバー704は、この画像認識ができたかどうか判断する(S560)。

そして、認識ができないと判断された場合には、農業機械100から送られた距離情報から農業機械100が異常内容まで所定の距離以内(たとえば3.5m以内)または所定の距離よりも短い距離にあるか判断する(S562)。すなわち、異常内容を認識できるまで十分接近しているか判断を行う。なお、この動作は、画像認識処理により識別されたエッジ間の長さ(すなわち、物体の大きさ)が、所定以上または所定よりも長いと判断するか否かにより行ってもよい。

そして、S562の工程で所定の距離以内(所定の距離よりも短い距離)にあると判断した場合には、ユーザ端末710、712に認識不可能な異常が発生した旨の通知をその異常内容を示す画像とともに送信する(S566)。このときのユーザ端末710、712で表示される画像の例を図56に示す。

この図56は図53において農業機械100が右下にある位置でステレオカメラ装置110により撮像されたものである。図56のように、ユーザ端末710、712には、ステレオカメラ装置110で撮像した画像において異常内容(異常源)1000が表示され、異常源1000までの距離や異常内容の大きさなどの付加的な情報が表示される。ユーザは、ユーザ端末710、712からその画像や表示された付加情報をみて異常内容を認識し、異常内容を特定して対処方法(目的の動作)を選択する。そしてそれらを、ユーザ端末710または712を使ってサーバー704に送信することで、サーバー704は、目的の動作位置まで到着と判断し、さらに目的の動作を指定する(S568)。さらにサーバー704は異常内容と関連画像や特徴パターン、対処方法をデータベース706に登録する。これにより、将来同一または類似の異常内容が発生した場合に対処できるようになる。なお、S560の工程で認識できたと判断した場合にも、サーバー704は目的動作の位置まで到着したと判断し、その認識できた異常内容に応じた目的動作(さらに異常内容に接近して、警笛や照明灯124点灯により威嚇する、無視する、異常内容に進行する、異常内容に放水するなど)を指定する(S568)。このサーバー704は到着判断と目的動作を農業機械100に送信する。

S562の工程において、所定の距離以内(所定の距離よりも短い距離)にあると判断しない場合には、サーバー704は到着と判断しない(S564)。サーバー704はこの不到着の判断を農業機械100に送信する。これにより農業機械100はさらに異常内容に接近することになる。

そして、サーバー704によるS568またはS564の工程の判断結果などを受信した農業機械100は目的動作を行う位置に到着したとサーバー704により判断されたか否かを判定する(S570)。そして、到着と判断された場合にはS424の工程へ、判断されない場合にはS444の工程へ進む。

なお、サーバー704で行った動作(S556からS568)は、農業機械100で行うようにしてもよい。

このように全体システム1500は、異常の発生を検知した場合に、その異常に対する適切な処理を効率的に行うことができる。

なお、本実施形態において、農業機械100に設置したカメラ装置110、113等やモニタリング装置500、550、555などで取得した画像の認識処理その他画像処理は主としてサーバー704で行う例を説明したが、それに限られず、農業機械100やカメラ装置、圃場モニタリング装置500などで画像処理を行ってもよい。そうすることで、無線で通信するデータ量を削減し、システム全体として通信データ量を抑制し、全体システム1500のパフォーマンス(処理時間の迅速化)を図ることができる。一方で、先の例で説明しているようなサーバー704でそのような画像処理を行うことで、一般的に農業機械100などで使用する電気量を抑制でき、特に電気駆動の農業機械を使用する場合には一回の充電で長時間の作業を行うことが可能となる。

以上の説明は、一台の農業機械100を使って行う作業であるが、複数台の農業機械100を無線通信あるいは有線通信により連動させてそれぞれの農業機械が作業を行うものであってもよい。たとえば、先頭の農業機械が圃場を耕し、次の農業機械が施肥や播種を行うものである。この場合でも基本的に先頭の農業機械がこれまで説明した動作を行い、それに続く農業機械が先頭の農業機械からの指示に応じて作業を行うことになる。

さらにはこれまで説明した動作を複数台の農業機械100に別個に行わせることでそれぞれの農業機械が連動した動作を行わせるようにしてもよい。

〔農業機械の他の例〕 これまで説明した農業機械100は主としてトラクターの例であったが、図57および図58は、本実施形態における農業機械100の他の例を示す。図57は移動式のスプリンクラーによる散水作業の様子を、図58はヘリコプター(クアッドコプター)による肥料散布作業の様子を示す。

<スプリンクラー> 図57で示す技術は、農業機械100としてスプリンクラー850を使ったセンターピボット灌漑である。スプリンクラー850は、アルミニウム製の散水管856を複数連結したものを三角構造(トラス構造)の塔854に搭載し、この塔854を車輪852で移動させながら散水を行う。散水管856の各所に散水口858と各散水口858への水の供給を制御する電子弁860を備える。蒸発による損失を防いで農作物350や360の近くで水を撒いたほうが効率的である。このため、散水管856から下に枝分かれさせたドロップ型の散水口858を使っているが、これに限られない。このスプリンクラー850は一端を中心として円を描くように移動する。そして、その中心となる側から、くみ上げた地下水を供給する。

このスプリンクラー850も農業機械100と同様にGPS受信器と無線通信用アンテナおよび制御装置を備えている。この制御装置は各電子弁860の開閉の制御も行う。そして、図2で示す情報通信システム1502と接続し、全体システム1500を構成する。圃場に設置された圃場モニタリング装置555からの画像情報や付加情報に基づいてサーバー704からの指示を受け、植物活性度が低くなっている農作物360の上付近を通過する散水口858のみから散水を行う。なお、スプリンクラー850自体にマルチスペクトルカメラ装置113などを設置し、そこから得られる分光画像、分光情報などに基づいてサーバーまたはスプリンクラー850が植物活性度を判定し、散水の制御を行ってもよい。これによって、全体に対して散水する場合に比べ、使用する水を効率化できる。なお、散水する地下水には液体肥料を添加してもよい。また、地下水に代えて、このスプリンクラー850により、液体の農薬を散布する作業も行うことができる。この場合には、たとえば偏光フィルタを備えた圃場モニタリング装置555から害虫の情報を取得し、害虫が存在する農作物に対してのみ農薬散布を行うようにしてもよい。なお、偏光カメラ装置をスプリンクラー850に設置し、そこから得られた偏光画像からサーバー704またはスプリンクラー850が害虫を検知するようにしてもよい。

このスプリンクラー850は、図32、図33、図34、図35、図36、図37、図46、図47を用いて説明した動作により作業を行う。ただし、このスプリンクラー850は、移動の経路が決まっているので、複雑な経路計算は不要である。また、図35における進行方向の確認(S202)やその判断による経路変更(S208からS222)など、また旋回動作(S232、S234)は不要であるので省略できる。また、作業の中断においてその正確な作業中断位置からの再開が不要であるので、図49のS414やS434、S438などの農業機械の位置合わせのための動作は省略できる。

なお、農業機械は、センターピボット方式に限定されるものではなく、たとえば、平行移動式の灌漑を行ってもよい。

このようにして、全体システム1500では、散水などの作業が必要な対象物に対してのみ、その作業を行うことができるので、リソースを効率的に使用することができる。

<ヘリコプター> 図58は、農業機械100としてヘリコプター(クアッドコプター)1100を利用して液体の肥料802Bの散布作業を行っている様子を示す。このヘリコプター1100は、ヘリコプター1100本体から伸びたアーム先端付近に設置される4つのローターヘッド1102と、そのローターヘッド1102によって回転可能に接続されている4枚のローター1104を備え、それらのローター1104を回転させることにより、飛行を行う。このヘリコプター1100は、他に少なくとも、GPS用アンテナ120、無線通信用アンテナ114、ローター1104の回転制御も含めてヘリコプター1100の制御を行う制御装置118C、ステレオカメラ装置110、マルチスペクトルカメラ装置113、制御装置118Cの制御に応じて農薬散布を行う作業装置106E、着地する場合に着地点である地表などに接地するランディングギア1106を備えている。ステレオカメラ装置110は、ヘリコプター1100が水平飛行している状態において鉛直軸と直交する方向に制御装置118Cによって回転可能にヘリコプター1100に設置される。そして、ヘリコプター1100はステレオカメラ装置110を地面に向けることで、農作物などの状況を確認したり、地表とヘリコプター1100との間の距離を計測して高度を特定したりすることができる。高度は、第二のデジタル情報又は第四のデジタル情報の一例である。

また、ヘリコプター1100はステレオカメラ装置110を進行方向に向けることで進行方向に障害物(たとえば、モニタリング装置500、550、555などの人工物や農作物以外の高い樹木などの自然物)がないかを確認することも行うことができる。なお、高度は気圧変化に基づいて飛行している高度を特定する高度計により計測してもよい。このヘリコプター1100はこれまでに説明した方法によりGPS信号などにより現在位置を検知し、図2の情報通信システム1502と無線通信を行う。

このヘリコプター1100またはサーバー704は、マルチスペクトルカメラ装置113によりとらえた分光画像や分光反射率に基づいて、植物活性度などの植物の状況を把握し、それが所定値以下の場合などのときのみヘリコプター1100は作業装置106Eを動作させ、肥料802Bを農作物360に散布する。もちろん、ヘリコプター1100はこれらの情報またはこれ以外の情報に基づいて、同一または異なる作業装置106による異なる作業(たとえば、散水作業や農薬散布作業)を行ってもよい。また、色や影の影響をほとんど受けずに物体の表面を観測できる偏光カメラを使えば、葉など植物表面に付着する隠蔽色を有する害虫等を上空から発見でき、農薬をその害虫が存在する植物(あるいはその害虫)だけにピンポイントで散布することができる。

このヘリコプター1100は、基本的に図32、図33、図34、図35、図36、図37、図46、図47、図54、図55を用いてで説明した動作と同一のフローにより作業を行う。ただし、図32のS114からS116などでは飛行を行う高度も設定する。また、農作物などを飛び越えられるので経路は農業機械100の走行経路に比べて簡単に計算を行うことができる。

また、これらの動作における進行は飛行による進行となる。

なお、使用する農業機械はヘリコプター(クアッドコプター)に限らない。たとえば、ローターなどを8枚備えたオクトコプター等のマルチコプターや気球タイプ、飛行機タイプ、グライダータイプなどその他の飛行機械であってもよい。

このように全体システム1500によれば、効率的な作業を行うことができる。

〔遠隔操作〕 これまでの例は、本実施形態の全体システム1500により農業機械100、スプリンクラー850、ヘリコプター1100などの進行および作業を手動操作によらない自動制御により行う例である。一方、システム利用者において、農業機械100の移動や作業を自分の目で見ながら行いたいというニーズが存在する。特に自動制御で行うことが難しい緻密な作業や細かい移動制御をシステム利用者自らが行いたい場合がある。全体システム1500を応用すると、システム利用者(ユーザ)は遠隔操作により農業機械100などを動作させることもできる。図59にこの遠隔操作を行うための情報通信システム1502の一例を示す。遠隔操作は、ユーザ端末710、712を使用してユーザが農業機械100を操作することをいう。この場合、ユーザが農業機械100に乗車しながらユーザ端末710、712を操作する、または農業機械100など近傍で操作する場合も遠隔操作に含まれる。

遠隔操作を行う場合、農業機械100などで撮像された画像や付加的な情報がサーバー704を経由してユーザ端末710、712の画面に表示されるようにすればよい。この場合、画像上に付加的な情報(距離情報等)が重畳されて表示されることになる。ただし、全体システム1500では、この画像は映像(動画)情報として送信される。このため、サーバー704の作業負荷が多くなるので、実際には図2で示す情報通信システム1502において映像情報を専門で扱う映像サーバー705をインターネット702につながる形で別途設けている(図59参照)。映像は通信回線の状況等に応じて通信される映像情報の圧縮率を調整できるH.264 SVCに準拠する映像データとして送受信されている。このため、映像が途切れることは極めて少ない。なお、農業機械100などは、H.264 SVC以外のフォーマット、たとえばH.265などに準拠するフォーマットでデータを送信してもよい。さらに農業機械100などは映像情報ではなく、JPEGフォーマットやPINGフォーマットなど静止画情報を連続あるいは断続的に送信するようにしてもよい。

ユーザ端末710、712で表示する画面の例としては、図50や図56に示すようなステレオカメラ装置110で撮像した画像である。またマルチスペクトルカメラ装置113で撮像した分光画像(たとえば、分光反射率を輝度や色の濃淡で表現した画像)を表示してもよい。そして、ユーザは、その画面を見ながら、進行方向や、旋回、速度を指示し農業機械100を操作し、さらに作業装置106による作業も行える。もちろん、農業機械100などの操作、作業装置106による作業の一方を自動で行うようにして、ユーザは一方のみを行ってもよい。また、モニタリング装置500、550、555で撮像した画像も合わせて表示し、たとえば、遠隔操作を行っている農業機械100などが圃場のどの位置にあるのかを表示させることもできる。または、圃場の地図とその地図内で農業機械100がどの位置にあるのか表示させることもできる。この遠隔操作についてはユーザからの指示をすばやく農業機械100などに反映させる必要があるので、実際には操作管理用に操作管理用サーバー707を図2で示す情報通信システム1502において設けている(図59参照)。

操作管理用サーバー707は、ユーザ端末710、712に入力される情報に基づいて農業機械100などに操作指令を出し、農業機械100などを遠隔で制御する。ユーザ端末710、712で入力される情報は、タッチパネルやキーボード、マウス操作により手動で入力されてもよいし、音声やジェスチャーなどであってもよい。操作管理用サーバー707は、それらの情報を認識するためのプログラムを使って認識を行い、その認識結果に応じた操作指令を農業機械100などに送信する。

また、全体システム1500においては、複数の農業機械100などから送信される画像や複数の撮像素子で撮像した画像を一度に、あるいは切り替えてユーザ端末710、712の画面に表示させることもできる。

このようにシステム利用者は、農業機械100で撮像した画像以外の情報をユーザ端末710、712に表示しながら移動や作業を行うことができるので、遠隔操作であっても緻密な作業や細かい移動動作を行うことができる。

遠隔操作は、基本的に図32から図56で説明した自動制御モードとは別モードとして実行されるものであるが、自動制御中に遠隔操作を行うこともできる。このためには図32から図56において説明した動作中において、農業機械100で撮像した画像を常に映像サーバー705経由でユーザ端末710、712に送られることになる。また、ユーザ端末710または712からの遠隔操作は、図32から図56で説明した動作にユーザからの指示を割り込ませる形で動作を行わせることで実現するもできる。この場合、ユーザからの指示がない場合には全体システム1500は図32から図56で説明したような自動制御に戻って処理動作を実行することもできる。

なお、このような遠隔操作や農業機械100を直接手動によって操作する場合であっても、作業開始・終了・中断・再開情報や農業機械100の位置、作業位置などの情報は、農業機械100からサーバー704に送信され、サーバー704は、データベース708に受信した情報を保管する。これによって、将来の作業や次に説明する課金処理を円滑に行うことができるようになる。

〔課金処理〕 上述のとおり、サーバー704(または課金管理用サーバー。以下同じ)は、課金処理(請求処理)も行う。システム提供者はシステム利用料を適切に回収できることで、経営を継続するとともに新たなサービスを開発したり、現在のサービスを改善したりすることが可能となるので、課金処理を技術によって自動的に正確かつ効率的に行えるようにすることが課題となる。課金方法にはさまざまな形態があり、本実施形態の全体システム1500のユーザが選択できるようになっている。定額制の課金形態としては、 I図2または図59で示すような情報通信システム1502の使用料 II図1で示すような圃場のシステム(モニタリング装置500、550、555、農業機械100など)1501の賃貸料(装置を1個当たり100ドル/月、農業機械を1個当たり200ドル/月など) III土地(圃場)の賃貸料(1平方メートルあたり15ドルなど)、がある。

システム利用開始時にシステム提供者と利用者の間で合意した課金の形態は、データベース708に登録される。サーバー704は、データベース708に登録された課金形態IからIIIに対して、それぞれ単独の、または複数組み合わせたときの料金請求を定期的(たとえば、月ぎめ)でユーザ端末710、712に送信する。

従量制の課金形態としては、i作業の種類、ii作業時間、iii作業箇所の大きさ、iv作業を行った農業機械、vサーバー704による分析実施、vi収穫日予測実施、vii市場の需要取得、viiiシステム内の情報通信量、のそれぞれ単独及び/または複数組み合わせがある。これらiからviiiの情報(あるいはiからviiiを生成するための情報)は、上述のようにサーバー704によりデータベース708に記録されている。たとえば、サーバー704は、iとiiの組み合わせに対して、作業の種類(収穫:5ドル/時間)と作業時間(20時間)で計100ドルの料金を発生させたり、iとiiiの組み合わせに対して作業の種類(整地:0.2ドル/平方メートル)と作業箇所の大きさ(1000平方メートル)で計200ドルの料金を発生させたりする。このようにこの全体システム1500によれば所定の期間(たとえば1ヶ月間)における作業内容(作業の種類、作業時間、作業箇所の大きさ、作業を行った農業機械など)を特定することが容易にでき、その作業内容に応じた課金を行うことができる。また、サーバー704は、このiとiiなどの組み合わせに加え、たとえばviの収穫日予測(1回あたり10ドル)を実施した回数(5回)で計50ドルの料金を発生させることも可能である。これらiからviiiは、作業ごとにデータベース708に登録される情報に基づいてサーバー704が算出し、一定期間(たとえば半年)ごとにユーザ端末710、712に料金請求を行う。なお、作業時間を使う場合には、作業を中断した時間は差し引かれ、実作業時間により計算が行われる。

さらに全体システム1500は成功報酬型の課金形態も提供する。i全体システム1500を使って収穫した農作物に対する売上に対して一定の割合(たとえば20%)を課金したり、ii全体システム1500を使って農作物を育てた場合に、収穫量が増加した分の売上げに対して一定の割合(たとえば50%)で課金したり、iiiこれらi,iiの課金に収穫した農作物の市場価格を加味して料金を設定したり(たとえば、市場価格が基準価格に対して一定以上高騰した場合にi,iiの割合を増加させ、暴落した場合に低下させる)する。これらiからiiiを算出するための情報はデータベース708に記録されている。サーバー704は、データベース708に記憶されているデータからこれらの料金を算出し、一定期間(たとえば半年)ごとにユーザ端末710、712に料金請求を行う。

一方で、ユーザが一定の条件を満たした場合に料金を割り引いてもよい。たとえば、ユーザが全体システム1500に有益な情報(たとえば図35のS214の工程で説明した情報)を与えた場合には、所定回数(10回/月)を上限として1回当たり3ドルの割引を行うことができる。所定の金額を上限としてもよい。この場合もデータベース708にその情報が記録されているので、サーバー704はそれを参照して割引を行う。これにより、本全体システム1500の提供者は、今後の全体システム1500の効率的な運用に必要なデータを取得できるとともに、ユーザはシステム使用料の割引を受けられるので、両者にとって利点があることになる。

また、ユーザが農業機械100などを農業機械での手動操作または遠隔操作して作業を行った場合に、自動制御(自動操縦)のときよりもシステム使用料を低減することもできる。この場合の料金設定としては、全体システム1500によって提供される価値が高い順(自動制御、遠隔操作、手動操作の順)に料金を高く設定する。また、農業機械100の手動操作部116を使っての手動操作を無料とすることもできる。サーバー704は、このような割引のための情報をデータベース706、708やサーバー704内のSSDに記憶されたデータから取得し、割引料金を算出し、算出した料金を割り引いてユーザ端末710、712への料金請求を行う。サーバー704は、これらの定額制料金、従量制料金、成功報酬型料金を単独でも、組み合わせて一緒にでも請求することができる。この際、上記の割引も行われることになる。このように作業開始から作業完了まで、さらには収穫以後農作物の小売までの情報を全体システム1500は自動取得、自動集計できるので、正確かつ効率的な課金処理を行うことが可能となる。

なお、全体システム1500のユーザはユーザ端末710、712など用いて、クレジットカードやデビットカードその他の電子マネーを使って電子決済を行うことができる。または銀行振り込みでも対応できる。サーバー704がユーザ端末710、712に料金の請求を行ってから所定期日内に料金の支払いを確認できない場合には、督促を、ユーザ端末710、712に送付したり、郵送等の別の手段により送付したりできる。督促の送付から所定期日内に振込みを確認できない場合には、サーバー704はそのユーザが全体システム1500の一部または全部の使用を利用できないようにする。これにより、使用料を支払わないユーザによる全体システム1500の利用を制限できる。

〔全体システムの応用例〕 図60は本実施形態の応用の実施形態における移動体(作業体)の他の一例として、建設作業機械(ロードローラー)1200を示す。この建設作業機械1200は、重量が重く、接地面積の大きな車輪(ローラー)2000を持ち、その車輪の重量によって路面一面に圧力をかける作業を行いながら走行し、軟らかい地面を固める。建設作業機械1200は、さらに内燃機関による原動機102D、伝動装置104D、支持装置108D、ステレオカメラ装置110、無線通信用アンテナ114、手動操作部116、制御装置118D、GPS用アンテナ120、舵取り装置、一対の照明灯124D、一組の超音波ソナー装置126D、及び、一組の後輪130Bを備えている。この建設作業機械1200は、図2または図59で示すのと同等の情報通信システム1502と無線通信により接続されている。

ステレオカメラ装置110で取得した情報に基づいて前方の障害物の検知や測距による地面の凹凸を検知し、まだ固められてない領域として一定以上の凹凸がある領域に対してのみ作業を行うことが可能となる。

農業機械100などによる圃場での作業と作業の種類や作業装置の違いはあるが、基本的にこれまでの実施形態として説明した動作と同様の動作を行う。

なお、このような建設作業機械が作業を行う領域は通常は圃場ではなく、建設現場であるので、圃場は建設現場とした動作となる。

なお、本実施形態で説明した移動体の自動制御を行う全体システム1500の応用は、建設作業機械だけに限られず、移動と作業を行う装置、機械に対して応用することができる。すなわち、本実施形態の全体システム1500は、移動を複数種類の情報に基づいて行い、作業も複数種類の情報(たとえば、周波数の異なる電磁波)に基づいて行えるシステムにおいて応用可能である。移動は基本的に位置情報を観測しながら予め定まった経路あるいは修正された経路を進むように制御される。経路決定や移動時の軌道修正は、GPS信号という無線信号や既知の地点からの無線信号を利用して実行されるのに加え、ステレオカメラ装置110により取得した画像情報や距離情報(または視差値)も利用して位置ずれの補正などを実行し、移動を行う。または、ステレオカメラ装置110に代えて、あるいはステレオカメラ装置110とともにレーザレーダ装置112により進行方向の形状や距離を確認しながら移動してもよい。作業は、主としてレンズと撮像素子を備えたカメラ装置により取得する面の情報とその面の情報に関連する情報とに基づいて行われる。たとえば、ステレオカメラ装置であれば、撮像画像(面の情報)と撮像画像における距離情報(関連情報)となる。マルチスペクトルカメラ装置であれば、撮像画像(面の情報)と撮像画像における分光反射率情報(関連情報)となる。マルチスペクトルカメラ装置とレーザレーダ装置の組み合わせであれば、撮像した分光画像(面の情報)と撮像画像における分光反射率情報およびその画像における距離(関連情報)である。偏光カメラとレーザレーダ装置の組み合わせ、または偏光ステレオカメラ装置であれば、ハイコントラストの偏光撮像画像(面の情報)とその撮像画像における距離(関連情報)である。また、二次元にレーザを照射できるレーザレーダであれば、対象物の形状情報(面の情報)とその形状における距離情報(関連情報)である。さらに、これらのカメラ装置を組み合わせて、たとえば、撮像画像と距離情報と分光反射率情報により移動や作業を制御したり(ステレオカメラ装置とマルチスペクトルカメラ装置の組み合わせ)、撮像画像と距離情報と偏光画像情報により移動や作業を制御したり(偏光ステレオカメラ)してもよい。またさらに全体システム1500ではこれらの複合的な情報を用いて作業を行うことができる。

なお、本実施形態では、電磁波の電波や光(画像)および画像に関連した情報を使って機械の移動、作業を制御するが、これに限られず、他の電磁波(テラヘルツ波)や弾性波(音波)、およびそれらの波に重畳される情報、その他の環境情報を受け取って、それらを利用して移動や作業を制御するシステムであってもよい。

また、農業機械や建設作業機械などの移動体にカメラ装置を設置して撮像する場合、特に移動しながら撮像を行うと撮像画像がぶれる可能性が高い。それに対しては、撮像時の移動速度(走行速度、飛行速度、潜水速度など)を遅くしたり、シャッター速度を速めたり、レンズや撮像センサに振れ補正機構を設置することで対処できる。さらには複数の撮像画像を使って画像の補正を行ってもよい。

さらに、本実施形態では、基本的に経路に沿って移動体、作業体を移動させる方式を説明したが、これに限られない。すなわち、ユーザがユーザ端末710、712によって、ある作業領域または作業箇所を特定すると、各種画像センサ(カメラ装置)やレーザ装置(レーザレーダ装置)、超音波ソナー装置や無線により移動体または作業体の環境を把握しながら、自律的にその領域または箇所内を移動したり、移動しながら作業を行ったりすることになる。この場合には、移動体や作業体は自律制御のための複雑なアルゴリズムを有し、制御装置はそのアルゴリズムに基づいて移動体や作業体などの機械を制御する。この場合の制御装置は、機械内部に設けてもよいし、外部に設け無線通信により機械を制御するようにしてもよい。このアルゴリズムは、移動を行う場合には、移動に関する自律制御を行い、作業を行う場合には物体の操作に関する自律制御を行うものである。

さらに、全体システム1500で通信される情報は、それ自体が価値を有する情報財でもあるので、基本的には上述のようにセキュアに管理される。

〔本実施形態に基づく発明〕 以上説明を行った本実施形態および応用例には少なくとも次の発明が含まれる。 (1)手動操作によらず移動と対象に対する作業を行う機械であって、複数種類の情報に基づいて前記移動を行い、複数種類の情報に基づいて前記作業を行う機械である。この機械は農業機械、建設機械、飛行機械などあらゆる機械を含む(以下同様)。手動操作によらない(自動制御に基づく)移動を制御するための複数種類の情報とは、無線による位置特定のための情報やステレオカメラ装置その他の測距装置により取得する画像情報や距離情報、あるいはある場所に設置されたモニタリングカメラなどのカメラ装置で取得した画像情報やその画像情報に基づく距離情報などが該当する。手動操作によらない(自動制御に基づく)作業を制御するための複数種類の情報とは、撮像素子で取得した画像情報や分光画像情報、距離情報、反射率情報(分光反射率情報)、偏光画像情報、レーザ装置により取得した形状情報や距離情報などが該当する。このように、手動操作によらない移動を制御するための複数種類の情報と手動操作によらない作業を制御するための複数種類の情報はともに少なくとも二次元で表される(面の)情報を含んでいる。(1)の機械において、前記移動を行うための情報の一つは画像情報であってもよいし、形状に関する情報であってもよい。さらには(1)の機械において、前記作業を行うための情報の一つが画像情報であってもよいし、形状に関する情報であってもよい。なお、これらの機械がステレオカメラ装置を有する場合、それにより取得する距離情報を用いて移動と作業の両方の制御を行うことができる。この機械による手動操作によらない移動と対象に対する作業は、通常、交互または同時に行うものである(以下同様)。

(2)手動操作によらず移動を行う機械であって、複数種類の情報によって特定した経路に従って前記移動を制御する機械である。手動操作によらない移動を制御するために経路は、無線による位置特定のための情報やステレオカメラ装置その他の測距装置により取得する距離情報、あるいは特定の場所に設置可能なモニタリングカメラなどのカメラ装置で取得した画像情報に基づく距離情報などによって特定される。この(2)で記載する機械は、複数種類の情報に基づいて前記作業を行うことができる。(2)の機械において、前記移動を行うための情報の一つは画像情報であってもよい。

(3)手動操作によらず複数の対象に対する作業を行う機械であって、その機械で取得した各対象の状態に応じて対象ごとに前記作業の実行を判断する機械である。ここで作業の実行とは、作業をする、しないだけではなく、作業の程度(散水の量や肥料の量など)も含んでいる。たとえば、自動制御により、農作物ごとの植物の活性度や特定の波長に対する分光反射率、害虫の有無に基づいてそれらに対する作業(散水や施肥、農薬散布など)を行うものである。また、たとえば、自動制御により、各領域における路面の状況に応じて、その地面を固める作業を行うものである。

(4)手動操作によらず機械の移動とその機械による作業を制御する制御装置であって、前記機械が取得した画像情報と画像情報に関連する情報に基づいて前記機械の移動と前記作業を制御する制御装置である。この場合、制御装置は、その機械の一部であってもよいし、機械とは別のもの(たとえば、サーバー)であってもよい。

(5)手動操作によらず機械の移動を制御する制御装置であって、前記機械以外で取得した画像情報と画像情報に関連する情報に基づいて前記機械の移動を制御する制御装置である。この場合、制御装置は、その機械の一部であっても、機械とは別のもの(たとえば、サーバー)であってもよい。

(6)手動操作によらず機械による作業を制御する制御装置であって、その機械で取得した各対象の状態に応じて前記作業の実行を判断する制御装置である。ここで作業の実行とは、作業をする、しないだけではなく、作業の程度(散水の量や肥料の量など)も含んでいる。

(7)地表を均平化する作業を行う装置と所定の角度で幅を持って照射される光を照射する装置と備えた機械であって、その機械とは別の受光器で前記光を受光した位置に応じて均平するための装置を制御する機械である。

(8)地表を均平する作業を行う装置と光を受光する受光装置とを備えた作業機械と所定の角度で幅を持って照射される光を照射する光照射装置と備えたシステムであって、前記作業機械は前記光照射装置で照射した光を受光した位置に応じて均平するための装置を制御するシステムである。

(9)手動操作によらず移動と対象に対する作業を行う機械であって、前記作業を中断し、他の場所に移動したとき、中断した作業を再開する場合には前記作業が中断された位置へ戻って作業を再開する。このときの前記作業の中断位置に戻ったかどうかを複数種類の情報を用いて判断する機械である。

(10)手動操作によらず移動と対象に対する作業を行う機械であって、別の位置への移動を伴う作業中断事由により作業を中断した場合、その作業中断事由の解消により作業を中断した位置に戻って前記作業を再開する機械である。

(11)手動操作によらず少なくとも移動と対象に対する作業の一方を行う機械と、その機械から得られる無線通信による情報を取得して前記機械を制御する制御装置を備えたシステムであって、前記機械から得られる情報は複数の無線中継を経て前記制御装置に入力され、前記制御装置から出力される情報は複数の無線中継を経て前記機械に入力されるシステムである。

(12)手動操作によらず移動と対象に対する作業を行う機械であって、異常を検知すると前記作業を中断し、その異常の内容に応じた当該異常に対する動作を行う機械である。

(13)移動することができる機械と該機械で撮像した画像を表示してユーザにより前記機械の操作を行わせる端末を備えたシステムであって、前記画像に関連する情報も端末に表示させるシステムである。

(14)作業を行う機械とその機械で取得した情報を使って前記作業を前記機械に行わせる指示を出す制御装置とを備えたシステムであって、前記作業を行った対象と作業の内容を記憶するシステムである。制御装置は記憶した情報を将来の作業の内容を判断するための情報とすることができる。

(15)手動操作によらず対象に対する作業を行う機械であって、作業の種類に応じた対象毎の情報を取得し、取得した情報に基づいて作業を行うか否かを判断する機械である。たとえば、作業の種類が散水であれば、マルチスペクトルカメラを使って対象となる作物の状態(植物活性度など)を取得し、それに基づいてその対象となる作物に散水するか否かを決定したり、害虫除去であれば、対象となる作物の表面に害虫がついているか否かを偏光カメラによる撮像画像から判断し、害虫がついている場合のみ農薬を散布したりするなどである。

(16)手動操作によらずに対象への作業を行うことができる機械に前記作業を行わせる指示を出す制御装置であって、前記作業を行った場合に、その作業に応じた使用料金を算出する制御装置である。

(17)手動操作によらず移動を行うことができる機械の進行方向に当該機械が認識できない障害物がある場合には、さらにその障害物にさらに近づいて認識処理を行う機械である。

(18)手動操作によらず移動を行うことができる機械の移動を制御する制御装置であって、前記機械の進行方向に認識できない障害物がある場合には、前記機械をさらにその障害物にさらに近づけてから認識処理を行う制御装置である。

(19)可視および不可視の電磁波を取得し、それぞれの電磁波に含まれる情報を認識し、認識した情報に基づいて手動操作によらずに移動と作業を繰り返す機械である。可視の電磁波としては可視光が挙げられ、そこから画像を取得する。不可視の電磁波は、無線電波であったり、不可視光であったりする。

(20)手動操作によらず少なくとも移動および作業の一方を行う方法であって、周波数の異なる複数の電磁波を取得し、取得した複数の電磁波に含まれる情報を認識し、認識した情報に基づいて少なくとも移動と作業の一方を行うものである。この電磁波には、光(可視光と不可視光)、無線電波が含まれる。

(21)撮像装置を有する機械であって、撮像した画像内の微小領域ごとが有する画像以外の情報に基づいて少なくとも手動操作によらない移動および作業の一方を行う機械である。

(22)手動操作によらずに受信した信号により位置を特定して移動を行う機械であって、ある地点との距離に関する情報を取得する距離情報取得部を有し、該距離情報取得部で取得した距離に関する情報に基づいて前記移動の修正を行う機械である。

(23)予め決められた経路に沿って移動を行う機械であって、経路中に経路を変更する理由を検出した場合に、経路を変更して、変更した経路に沿って移動する機械である。

(24)進行方向にある障害を検出する障害検出手段と、その障害検出手段により障害を検出した場合にその障害の認識を行う認識手段と、その認識手段により前記障害の認識が行えた場合に、その認識結果に応じた対応を行う制御手段とを備えた機械であって、該制御手段は、前記認識手段により前記障害の認識ができない場合には、障害を回避して移動を行う機械である。

(25)作業する領域を特定する装置と、手動操作によらずに前記作業を行う機械と、を備えたシステムであって、前記機械は、前記装置により特定された領域に移動し、その領域における各対象物について作業が必要か否か判断し、必要と判断した対象物に対してのみ作業を行うシステムである。

(26)画像を取得する複数のセンサ装置を有する機械において、第一のセンサ装置は、画像と取得した画像における距離情報を取得し、第二のセンサ装置は、画像と取得した画像における色情報を取得する機械である。距離情報に基づく機械の移動を制御するとともに、色情報に基づいて機械による対象物の作業を行うことができる。または距離および色情報に基づいて対象物の作業を行うことができる。

(27)手動操作によらず対象物に対して作業を行う機械であって、対象物から得られる情報及びインターネットにおけるコンテンツ情報から得られる情報に基づいて前記対象物に対する作業を行う機械である。

(28)対象物への作業を行う作業装置と前記対象物の現象を情報化する情報化装置とを備えた機械と、情報化装置により情報化された現象を認識する認識手段と該認識手段により認識された現象に応じた判断を行う判断手段を備えた制御装置と、を有するシステムであって、前記機械の作業装置は前記制御装置の判断結果に応じた前記対象物への作業を手動操作によらずに行うシステムである。ここで情報化装置の例としては、本実施形態で説明が行われる各種のカメラ装置やレーザレーダ装置等のセンサ装置である。特に二次元以上の情報をとられるセンサ装置を使えば、把握できる現象の幅も広げることができる。

(29)手動操作によらず対象物への作業を行う機械と、前記機械の作業を制御する制御装置とを有するシステムにおいて、前記機械は、前記対象物の少なくとも一部を取得する取得装置を有することができ、前記制御装置は、前記取得装置により取得した対象物の追跡情報を入手し、該追跡情報に基づいて前記機械の対象物への作業を制御するシステムである。ここで取得装置の例としては、本実施形態で説明が行われる作業装置106の収穫装置である。この場合、作物の一部である果実や作物自体を収穫する。この果実や作物が出荷された後もバーコード情報などを使って追跡でき、出荷状況や需給状況などを分析することができる。それによって、同一の作物栽培作業へのフィードバックが可能となる。

(30)非接触のセンサ装置により取得した情報に基づいて、手動操作によらない移動と作業を行う機械であって、前記非接触のセンサ装置は画像情報と該画像情報に紐付く情報を取得できるカメラ装置である。

(31)移動しながら作業を行う、または移動と作業を繰り返し行う、移動作業装置と、 前記作業に関する情報を生成する作業情報生成装置と、受信した情報を蓄積し、蓄積した情報に基づいて所定の期間における作業内容を特定する制御装置に、前記作業情報生成装置で生成した情報を送信する送信装置と、を備えた機械である。 この場合、前記作業に関する情報は、作業の開始と終了に関する情報を含んでもよい。さらに、前記作業に関する情報は作業の中断と再開に関する情報を含んでもよい。

(32)上記(31)の機械において、作業対象の状態を特定する状態特定部と、該状態特定部で特定された状態に応じて前記作業対象に対する作業を行うか否かを判断する判断部と、をさらに備え、前記作業に関する情報は、前記判断部による判断結果を含む機械である。

(33)上記(31)または(32)の機械において、前記移動作業装置による作業は、手動によらず行われる。

(34)作業対象に対して手動操作によらず作業を行う機械と、該機械から取得した情報に基づいて作業内容の特定を行う制御装置を備えたシステムであって、前記機械は、移動および前記作業を行うものであり、前記作業に関する情報を前記制御装置に送信し、 前記制御装置は、受信した前記作業に関する情報を蓄積し、蓄積した情報に基づいて所定期間における作業内容を特定し、提示するシステムである。

この場合、前記作業に関する情報は、作業の開始と終了に関する情報を含んでもよい。さらに、前記作業に関する情報は作業の中断と再開に関する情報を含んでもよい。

また、さらに前記制御装置は、作業中断中の作業内容の特定は行わずに提示を行うものであってもよい。

これらの場合において、前記作業対象は、農作物であり、前記制御装置は、前記蓄積した情報に基づいて前記農作物の収穫に関する分析を行い、この分析結果を提示するシステムであってもよい。さらに、前記制御装置による前記分析は、前記作業に関する情報に加え、このシステム外部から取得される環境情報も使用して実施されるものであってもよい。

(35)作業対象に対して作業を行い、該作業内容の特定を行う作業情報の生産方法であって、移動しながら前記作業を行う、または移動と前記作業を繰り返し行う、工程と、前記作業に関する情報を生成する工程と、該工程で生成した情報を蓄積する工程と、前記蓄積した情報に基づいて所定期間における作業内容を特定する工程と、前記特定した作業内容を出力する工程と、を含む作業情報の生産方法である。

(36)コンピュータに、移動しながら作業を行う、または移動と前記作業を繰り返し行う工程と、前記作業に関する情報を生成する工程と、該工程で生成した情報を蓄積する工程と、蓄積した情報に基づいて所定期間における作業内容を特定する工程と、を実行させるためのプログラムまたはそのプログラムを記録したコンピュータ読み取り可能な記録媒体である。

(37)作物の状態を特定するための情報を検出できる検出装置と、該検出装置で検出した情報を取得する管理装置と、を備えたシステムであって、前記検出装置は、非接触で前記作物の状態を特定するための情報を検出するセンサと、該センサで検出した情報を前記管理装置に送信する送信手段と、を備え、前記管理装置は、前記状態検出装置から送信された情報から作物の状態を特定する特定手段と、該特定手段による特定の結果に基づいて作物の収穫に関して予測する予測手段と、を備えたシステムである。

この場合、前記検出装置は、移動するための移動手段を備え、作物が栽培されている領域を移動しながら作物の状態を判断するための情報の検出を行える。そして、前記検出装置は、前記移動手段を手動操作によらず操作する制御手段を備えている。

これらにおいて、前記特定手段による特定の結果を記録する記録装置を備え、前記予測手段は、前記記録装置に記録される特定の結果と前記記録装置に過去に記録された特定の結果に基づいて作物の収穫を予測するシステムであってもよい。または、前記検出装置における前記送信手段は、前記状態を特定される作物に対する作業に関する情報も前記管理装置に送信し、前記予測手段は、前記作業に関する情報も用いて作物の収穫を予測するシステムであってもよい。

(38)センサにより作物の状態を特定するための情報を該作物に非接触で検出する検出工程と、該検出工程でされた情報から作物の状態を特定する特定工程と、前記特定工程で特定された作物の状態に基づいて作物の収穫に関して予測する予測工程と、該予測工程で予測した結果を出力する工程と、を備えた予測データの生産方法である。この場合、前記特定工程で特定された作物の状態を記録する記録工程を備え、前記予測工程では、前記特定工程で特定された作物の状態および過去に記録された作物の状態に基づいて作物の収穫を予測してもよい。

(39)コンピュータに、作物に対してセンサを用いて非接触で検出される情報から作物の状態を特定する特定工程と、前記特定工程で特定された作物の状態に基づいて作物の収穫に関して予測する予測工程と、該予測工程で予測した結果を表示する工程と、を実行させるためのプログラムまたはそのプログラムを記録したコンピュータ読み取り可能な記録媒体である。

(40)手動操作によらず移動と作業を行う機械であって、所定の経路で移動する移動手段と、該移動手段により移動を行って作業対象を認識する認識手段と、該認識手段により認識した作業対象の状態を検出する検出手段と、該検出手段による検出結果に基づいて、その作業対象について作業を行うか否かを判断する判断手段と、を備え、該判断手段によって作業を行うと判断した場合、前記作業対象に対して作業を行い、前記判断手段によって作業を行わないと判断した場合、前記作業手段による作業を行わずに、前記移動手段によって移動を行いながら前記認識手段により次の作業対象の認識を行う、機械である。

この場合、前記判断手段によって作業を行うと判断した場合、前記移動手段によって、前記作業対象の近傍に移動してから該作業対象に対する作業を実施してもよい。

また、移動のための燃料または電力の残存量を計測する計測手段をさらに備え、前記残存量が所定値を下回った場合または所定値以下となった場合には前記作業を中断し、燃料または電力の供給位置まで移動し、供給完了後に、作業を中断した位置に戻って作業を再開する機械であってもよい。さらにまた、作業を行うための作業リソースの残存量を確認する確認手段をさらに備え、前記残存量が所定値を下回った場合または所定値以下となった場合には前記作業を中断し、作業リソースの供給位置まで移動し、供給完了後に、作業を中断した位置に戻って作業を再開する機械であってもよい。

(41)上記(40)の機械と、作業が必要な作業対象が存在する領域を特定する特定装置と、を備えたシステムであって、前記特定装置は、前記機械が認識できる領域よりも広い領域における複数の作業対象を認識する広域認識手段と、該広域認識手段により認識された複数の作業対象に作業が必要な作業対象が含まれるか否か判断する広域判断手段と、を有し、前記機械は、前記広域判断手段によって作業が必要な作業対象が含まれると判断された場合に、前記移動手段により、その作業が必要な作業対象が存在する領域に移動し、前記認識手段による認識を開始する、システムである。

(42)手動操作によらず移動と作業を行う機械と、前記作業の制御を行う制御装置とを備えたシステムであって、前記機械は、前記所定の経路で移動する移動手段と、該移動手段により移動を行って作業対象を検知する検知手段と、該検知手段により検知した作業対象に関する情報を前記制御装置に送信する送信手段と、前記制御装置による指令に応じて前記作業対象に対して作業を行う作業手段と、を備え、前記制御装置は、前記機械にから送信された情報を受信する受信手段と、該受信手段により受信した前記作業対象に関する情報を用いて前記作業対象を認識する認識手段と、該認識手段により認識した作業対象の状態を検出する検出手段と、該検出手段による検出結果に基づいて、その作業対象について作業を行うか否かを判断する判断手段と、該判断手段によって作業を行うと判断した場合、前記作業対象に対して作業を行うよう前記機械に指令を出し、前記判断手段によって作業を行わないと判断した場合、前記作業手段による作業を行わずに、前記移動手段によって移動を行って前記検知手段により次の作業対象の検知を行うよう前記機械に指令を出す制御手段と、を備えるシステムである。

この場合、作業が必要な作業対象が存在する領域を特定する特定装置をさらに備え、前記特定装置は、前記機械が検知できる範囲よりも広い領域における複数の作業対象を検知する広域検知手段と、前記検知した複数の作業対象の情報を前記制御装置に装置する送信手段と、を有し、前記制御装置は、前記特定装置にから送信された情報を受信する受信手段と、該受信手段により受信した複数の作業対象の情報に基づいて前記複数の作業対象に作業が必要な作業対象が含まれるか否か判断する広域判断手段と、を有し、前記機械は、前記広域判断手段によって作業が必要な作業対象が含まれると判断された場合に、前記移動手段により、その作業が必要な作業対象が存在する領域に移動し、前記検知手段による検知を開始する、システムであってもよい。

(43)作業装置を所定の経路で移動させる移動工程と、該移動工程により移動を行って作業装置による作業対象を認識する認識工程と、認識した作業対象の状態を検出する検出工程と、検出の結果に基づいて、その作業対象について作業を行うか否かを判断する判断工程と、該判断工程によって作業を行うと判断した場合、前記作業装置により前記作業対象に対して作業を行う作業工程と、前記判断工程によって作業を行わないと判断した場合、前記作業工程による作業を行わずに、前記移動工程によって移動を行いながら次の作業対象の認識を行う工程と、を含む作業方法である。

(44)コンピュータに、作業装置を所定の経路で移動させる移動工程と、該移動工程により移動を行って作業装置による作業対象を認識する認識工程と、認識した作業対象の状態を検出する検出工程と、検出の結果に基づいて、その作業対象について作業を行うか否かを判断する判断工程と、該判断工程によって作業を行うと判断した場合、前記作業装置により前記作業対象に対して作業を行う作業工程と、前記判断工程によって作業を行わないと判断した場合、前記作業工程による作業を行わずに、前記移動工程によって移動を行いながら次の作業対象の認識を行う工程と、を実行させるためのプログラムまたはそのプログラムを記録したコンピュータ読み取り可能な記録媒体である。

(45)現在位置を取得する現在位置取得装置と、画像情報を取得するセンサ装置と、動力源から発生する動力を伝達して移動を行う伝動装置と、前記伝動装置による移動の制御を行う制御装置と、を備えた機械であって、前記制御装置は、前記現在位置取得手段で取得した現在位置に基づいて前記伝動装置による移動を制御し、前記センサ装置で取得した画像情報に基づいて前記移動の修正を行う、機械である。 この場合、前記移動の修正は、前記画像情報から得られる距離に関する情報に基づいて行われる機械であってもよい。さらにこの距離に関する情報は、地表との距離に関する情報であってもよい。またさらに、前記制御装置は、前記画像情報から前記機械の進行方向に存在する物体の認識を行い、認識結果に応じて前記移動の修正を行ってもよい。そして、 前記制御装置は、前記物体の認識ができない場合、ユーザに前記物体の種類の特定を促すものでも、前記物体を回避するように前記移動の修正を行うものであってもよい。

(46)現在位置を取得する現在位置取得装置と画像情報を取得するセンサ装置と動力源から発生する動力を伝達して移動を行う伝動装置とを有する機械と、前記機械の移動の制御を行う制御装置と、を備えたシステムであって、前記機械は、前記現在位置取得装置で取得した現在位置と前記センサ装置で取得した画像情報を前記制御装置に送信し、前記制御装置は、取得した前記現在位置に基づいて前記機械の移動を制御し、取得した前記画像情報に基づいて前記機械の移動の修正を行う、システムである。

(47)機械を手動によらず移動させる方法であって、現在位置を取得する現在位置取得工程と、画像情報を取得する画像情報取得工程と、動力源から発生する動力を伝達して移動を行う移動工程と、前記現在位置取得工程で取得した現在位置に基づいて前記移動を行う工程と、前記画像情報取得工程で取得した画像情報に基づいて前記移動の修正を行う工程と、を含む方法である。

(48)手動操作によらず移動する機械のコンピュータに、現在位置を取得する現在位置取得工程と、画像情報を取得する画像情報取得工程と、動力源から発生する動力を伝達して移動を行う移動工程と、前記現在位置取得工程で取得した現在位置に基づいて前記移動を行う工程と、前記画像情報取得工程で取得した画像情報に基づいて前記移動の修正を行う工程と、を実行させるためのプログラムまたはそのプログラムを記録したコンピュータ読み取り可能な記録媒体である。

100 農業機械 100A、100C トラクター 110 ステレオカメラ装置 112 112−2 レーザレーダ装置 113 マルチスペクトルカメラ装置 310 コスト算出部 320 コスト合成部 330 視差値導出部 350、360 農作物 500、555 圃場モニタリング装置 501 全天球カメラ装置 550 状態モニタリング装置 704 サーバー 705 映像サーバー 706、708 データベース 707 操作管理用サーバー 710、712 ユーザ端末 850 スプリンクラー 1100 ヘリコプター 1500 全体システム 1501 システム 1502 情報通信システム

特表2010−517567号公報