[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2012096005A - Display device, game system and game processing method - Google Patents

Display device, game system and game processing method Download PDF

Info

Publication number
JP2012096005A
JP2012096005A JP2011168063A JP2011168063A JP2012096005A JP 2012096005 A JP2012096005 A JP 2012096005A JP 2011168063 A JP2011168063 A JP 2011168063A JP 2011168063 A JP2011168063 A JP 2011168063A JP 2012096005 A JP2012096005 A JP 2012096005A
Authority
JP
Japan
Prior art keywords
game
data
image
unit
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011168063A
Other languages
Japanese (ja)
Inventor
Genyo Takeda
玄洋 竹田
Eiji Kawai
英次 川井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2011168063A priority Critical patent/JP2012096005A/en
Publication of JP2012096005A publication Critical patent/JP2012096005A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To improve a freedom of an operation for an operation device.SOLUTION: A game device includes an operation data-receiving part, a game processing part, a game image generation part and a game image-transmitting part. The operation data-receiving part receives operation data from the operation device. The game processing part executes game processing on the basis of the operation data. The game image generation part sequentially generates a game image on the basis of the game processing. The game image-transmitting part wirelessly and sequentially transmits the game image to a portable display device. The operation device includes an operation data-transmitting part which wirelessly transmits the operation data indicating an operation with respect to an own machine to the game device. The portable display device includes a game image-receiving part and a display part. The game image-receiving part sequentially receives the game image from the game device. The display part sequentially displays the game image.

Description

本発明は、ゲーム画像等を表示するための表示装置であって、ユーザが持ち運ぶことができる可搬型の表示装置、ならびに、当該表示装置を用いたゲームシステムおよびゲーム処理方法に関する。   The present invention relates to a display device for displaying a game image or the like, which can be carried by a user, and a game system and a game processing method using the display device.

従来、プレイヤが操作装置自体を動かしてゲーム操作を行うことができるゲームシステムがある(例えば、特許文献1参照)。例えば特許文献1に記載のゲームシステムにおいては、操作装置が備える撮像手段でマーカ装置を撮像し、撮像された画像(撮像画像)から得られる情報をゲーム入力として用いることで、操作装置自体を動かす操作を可能としている。具体的には、撮像画像内におけるマーカ装置の位置から操作装置の位置や姿勢を判断することができるので、上記ゲームシステムにおいては、当該マーカ装置の位置を上記情報として取得し、マーカ装置の位置に応じたゲーム処理を行っている。なお、上記ゲームシステムにおいては、マーカ装置の設置場所は任意であるが、ゲーム画像が表示される画面の方へ操作装置を向けて使用することがユーザにとって違和感がないので、通常はマーカ装置は表示装置の周囲に設置される。   2. Description of the Related Art Conventionally, there is a game system in which a player can perform a game operation by moving the operation device itself (see, for example, Patent Document 1). For example, in the game system described in Patent Document 1, the marker device is imaged by an imaging unit included in the operation device, and information obtained from the captured image (captured image) is used as a game input, thereby moving the operation device itself. Operation is possible. Specifically, since the position and posture of the operating device can be determined from the position of the marker device in the captured image, the game system acquires the position of the marker device as the information, and the position of the marker device. The game processing according to is performed. In the above game system, the marker device can be installed at any location, but since there is no sense of incongruity for the user to use the operating device toward the screen on which the game image is displayed, It is installed around the display device.

特許第4265814号明細書Japanese Patent No. 4265814

上述のように、上記ゲームシステムにおいては、ユーザは操作装置を表示装置の方へ向けて使用する。また、上記ゲームシステムでは、一般的には、テレビのような据置型で固定的に設置される表示装置が用いられる。そのため、ユーザは、撮像画像を入力として用いる場合には常に、固定的に設置される表示装置の方へ向けて操作装置を使用しなければならなかった。すなわち、上記ゲームシステムにおいては、操作装置を使用できる向きが制限される場合があり、操作装置に対する操作の自由度に関して改善の余地があった。   As described above, in the game system, the user uses the operation device toward the display device. The game system generally uses a stationary and fixed display device such as a television. Therefore, the user must always use the operating device toward the display device that is fixedly installed when the captured image is used as an input. That is, in the above game system, the direction in which the operating device can be used may be limited, and there is room for improvement regarding the degree of freedom of operation with respect to the operating device.

それ故、本発明の目的は、操作装置に対する操作の自由度を向上することが可能な表示装置、ゲームシステム、およびゲーム処理方法を提供することである。   Therefore, an object of the present invention is to provide a display device, a game system, and a game processing method capable of improving the degree of freedom of operation with respect to the operation device.

本発明は、上記の課題を解決するために、以下の(1)〜(17)の構成を採用した。   The present invention employs the following configurations (1) to (17) in order to solve the above problems.

(1)
本発明の一例は、据置型のゲーム装置と、操作装置と、可搬型表示装置とを含むゲームシステムである。
ゲーム装置は、操作データ受信部と、ゲーム処理部と、ゲーム画像生成部と、ゲーム画像送信部とを備える。操作データ受信部は、操作装置から操作データを受信する。ゲーム処理部は、操作データに基づいてゲーム処理を実行する。ゲーム画像生成部は、ゲーム処理に基づいて第1ゲーム画像を逐次生成する。ゲーム画像送信部は、第1ゲーム画像を可搬型表示装置へ無線で逐次送信する。
操作装置は、自機に対する操作を表す操作データをゲーム装置へ無線で送信する操作データ送信部を備える。
可搬型表示装置は、ゲーム画像受信部と、表示部とを備える。ゲーム画像受信部は、ゲーム装置から第1ゲーム画像を逐次受信する。表示部は、第1ゲーム画像を逐次表示する。
(1)
An example of the present invention is a game system including a stationary game device, an operation device, and a portable display device.
The game device includes an operation data receiving unit, a game processing unit, a game image generating unit, and a game image transmitting unit. The operation data receiving unit receives operation data from the operation device. The game processing unit executes game processing based on the operation data. The game image generation unit sequentially generates a first game image based on the game process. The game image transmission unit wirelessly sequentially transmits the first game image to the portable display device.
The operation device includes an operation data transmission unit that wirelessly transmits operation data representing an operation on the own device to the game device.
The portable display device includes a game image receiving unit and a display unit. The game image receiving unit sequentially receives the first game image from the game device. The display unit sequentially displays the first game image.

上記「ゲーム装置」は、ゲーム処理を実行し、ゲーム処理に基づいて画像を生成する情報処理装置であればどのようなものであってもよい。上記ゲーム装置は、ゲーム専用の情報処理装置であってもよいし、一般的なパーソナルコンピュータのような多用途の情報処理装置であってもよい。
上記「操作装置」は、上記の構成を備える他、さらに他の構成を備えていてもよい。例えば、上記操作装置は表示手段や音声出力手段をさらに備えていてもよい。
上記「可搬型」とは、ユーザが手に持って動かしたり、任意の位置に配置を変更したりすることができる程度の大きさである意味である。ただし、「可搬型表示装置」は、例えば後述する第1〜第4のゲーム例のように、ゲーム中において動かして使用される他、例えば後述する第5のゲーム例のように、ゲーム中においては固定的に配置されて(動かされずに)使用されてもよい。
上記「ゲームシステム」は、ゲーム装置と操作装置と可搬型表示装置とを含んでいればよく、後述する第2ゲーム画像を表示する外部表示装置を含んでいなくともよいし、含んでいてもよい。すなわち、ゲームシステムは、当該外部表示装置を含まない形態で提供されてもよいし、含む形態で提供されてもよい。
The “game device” may be any information processing device that executes a game process and generates an image based on the game process. The game apparatus may be an information processing apparatus dedicated to a game, or may be a multipurpose information processing apparatus such as a general personal computer.
In addition to the above-described configuration, the “operation device” may further include another configuration. For example, the operating device may further include display means and audio output means.
The “portable type” means that the user can move it with his / her hand or change the arrangement to an arbitrary position. However, the “portable display device” is used while being moved during the game, for example, as in the first to fourth game examples described later. May be used fixedly (without movement).
The “game system” only needs to include a game device, an operation device, and a portable display device, and may or may not include an external display device that displays a second game image to be described later. Good. That is, the game system may be provided in a form that does not include the external display device, or may be provided in a form that includes it.

上記(1)の構成によれば、表示装置は可搬型であるので、ユーザは、表示装置を自由な位置に配置することができ、それによって操作装置を自由な向きに向けて使用することができる。このように、上記(1)の構成によれば、操作装置を使用できる向きが制限される場合があった従来のゲームシステムに比べて、操作装置に対する操作の自由度を向上することができる。   According to the configuration of (1) above, since the display device is portable, the user can place the display device in a free position, thereby using the operating device in a free orientation. it can. Thus, according to the configuration of (1), the degree of freedom of operation with respect to the operating device can be improved as compared with the conventional game system in which the direction in which the operating device can be used may be limited.

また、上記(1)の構成によれば、ゲーム処理についてはゲーム装置側で実行すればよい。ゲーム処理が複雑になっても、ゲーム装置側の処理が増加するだけで、可搬型表示装置での処理量にはほとんど影響しないので、仮に複雑なゲーム処理を要する場合であっても、可搬型表示装置側の処理負荷を所定の範囲に抑えることができ、可搬型表示装置には高い情報処理能力が要求されない。そのため、可搬型表示装置の小型化・軽量化が容易になり、製造も容易になる。   According to the configuration of (1) above, the game process may be executed on the game device side. Even if the game processing is complicated, the processing on the game device side only increases and the amount of processing in the portable display device is hardly affected. Therefore, even if complicated game processing is required, the portable type The processing load on the display device side can be suppressed within a predetermined range, and the portable display device does not require high information processing capability. Therefore, the portable display device can be easily reduced in size and weight, and can be easily manufactured.

(2)
ゲーム装置は、第1ゲーム画像を逐次圧縮して圧縮画像データを生成するゲーム画像圧縮部をさらに備えていてもよい。このとき、ゲーム画像送信部は、圧縮画像データを可搬型表示装置へ無線で逐次送信する。ゲーム画像受信部は、ゲーム装置から圧縮画像データを逐次受信する。可搬型表示装置は、圧縮画像データを逐次伸張して第1ゲーム画像を得るゲーム画像伸張部をさらに備える。表示部は、伸張によって得られた第1ゲーム画像を逐次表示する。
(2)
The game device may further include a game image compression unit that sequentially compresses the first game image to generate compressed image data. At this time, the game image transmission unit sequentially transmits the compressed image data to the portable display device wirelessly. The game image receiving unit sequentially receives compressed image data from the game device. The portable display device further includes a game image expansion unit that sequentially expands the compressed image data to obtain a first game image. The display unit sequentially displays the first game image obtained by the expansion.

上記(2)の構成によれば、第1ゲーム画像は、圧縮されてゲーム装置から可搬型表示装置へ送信されるので、ゲーム画像を高速に無線送信することができ、ゲーム処理が行われてからゲーム画像が表示されるまでの遅延を少なくすることができる。   According to the configuration of (2) above, the first game image is compressed and transmitted from the game device to the portable display device, so that the game image can be wirelessly transmitted at high speed and the game process is performed. The delay until the game image is displayed can be reduced.

(3)
操作装置は、赤外光を検知可能な撮像部を備えていてもよい。このとき、操作データ送信部は、撮像部による検知結果を表すデータを含む操作データをゲーム装置へ無線で送信する。可搬型表示装置は、赤外線を発光可能な赤外発光部をさらに備える。
(3)
The operating device may include an imaging unit capable of detecting infrared light. At this time, the operation data transmission unit wirelessly transmits operation data including data representing a detection result by the imaging unit to the game device. The portable display device further includes an infrared light emitting unit capable of emitting infrared light.

上記「撮像部による検知結果」とは、撮像部によって撮像された画像自体であってもよいし、当該画像から得られる情報(例えば、後述するマーカ座標等)であってもよい。   The “detection result by the imaging unit” may be an image itself captured by the imaging unit, or may be information obtained from the image (for example, marker coordinates described later).

上記(3)の構成によれば、可搬型表示装置は赤外発光部と表示部とを備えるとともに、操作装置が撮像部を備え、撮像部による検知結果に基づいてゲーム処理が実行される。したがって、ユーザは、操作装置の撮像部を可搬型表示装置の赤外発光部の方へ向けることでゲーム操作を行うことができる。ここで、表示装置は可搬型であるので、ユーザは、表示装置を自由な位置に配置することができ、それによって操作装置を自由な向きに向けて使用することができる。このように、上記(3)の構成によれば、操作装置を使用できる向きが制限される場合があった従来のゲームシステムに比べて、操作装置に対する操作の自由度を向上することができる。   According to the configuration of (3) above, the portable display device includes the infrared light emitting unit and the display unit, the operation device includes the imaging unit, and the game process is executed based on the detection result of the imaging unit. Therefore, the user can perform the game operation by directing the imaging unit of the operating device toward the infrared light emitting unit of the portable display device. Here, since the display device is portable, the user can place the display device in a free position, thereby using the operating device in a free orientation. Thus, according to the configuration of (3) above, the degree of freedom of operation with respect to the operating device can be improved as compared with the conventional game system in which the direction in which the operating device can be used may be limited.

(4)
ゲームシステムは、赤外光を発光可能なマーカ装置をさらに含んでいてもよい。このとき、ゲーム画像生成部は、ゲーム処理に基づいて第2ゲーム画像をさらに生成する。また、ゲーム装置は、画像出力部と、発光制御部とをさらに備えている。画像出力部は、可搬型表示装置とは別体の外部表示装置へ第2ゲーム画像を逐次出力する。発光制御部は、マーカ装置の発光を制御する。
(4)
The game system may further include a marker device that can emit infrared light. At this time, the game image generation unit further generates a second game image based on the game process. The game device further includes an image output unit and a light emission control unit. The image output unit sequentially outputs the second game image to an external display device separate from the portable display device. The light emission control unit controls light emission of the marker device.

上記「外部表示装置」とは、第1操作装置と別体であればよく、後述する実施形態におけるテレビ2の他、ゲーム装置によって生成された第2ゲーム画像を表示することが可能なものであればどのようなものであってもよい。例えば、外部表示装置は、ゲーム装置と一体として(1つの筐体内に)形成されるものであってもよい。   The “external display device” may be a separate body from the first operating device, and can display the second game image generated by the game device in addition to the television 2 in the embodiment described later. Anything is acceptable. For example, the external display device may be formed integrally with the game device (in one housing).

上記(4)の構成によれば、ゲームシステムには、上記可搬型表示装置の赤外発光部とは別にマーカ装置が含まれるとともに、第1ゲーム画像が表示される可搬型表示装置とは別の外部表示装置に第2ゲーム画像が表示される。これによれば、マーカ装置を当該外部表示装置の周辺に設置する場合には、ユーザは、2つの表示装置のいずれかに向けて操作装置を使用することができる。つまり、ユーザは操作装置を2つの表示装置のどちらに向けても操作することができるので、操作装置の操作の自由度がより高くなる。   According to the configuration of (4) above, the game system includes the marker device separately from the infrared light emitting unit of the portable display device, and is separate from the portable display device that displays the first game image. The second game image is displayed on the external display device. According to this, when installing the marker device around the external display device, the user can use the operation device toward one of the two display devices. In other words, since the user can operate the operating device by pointing to either of the two display devices, the degree of freedom of operation of the operating device is further increased.

さらに、上記(4)の構成によれば、可搬型表示装置については自由に配置することが可能であるので、2つの表示装置の位置関係を自由に設定することができる。したがって、ゲーム内容に応じた適切な位置に2つの表示装置を配置することで、操作装置を用いたより現実味のある操作を実現したり、より興趣性の高いゲームを実現したりすることができる(後述する第5のゲーム例参照)。また、2つの表示装置の位置関係を都度変更することで、2つの表示装置をいろいろな位置関係にして使用する種々のゲームに対応することが可能となる。   Furthermore, according to the configuration of (4) above, the portable display device can be freely arranged, so the positional relationship between the two display devices can be set freely. Therefore, by arranging two display devices at appropriate positions according to the game content, a more realistic operation using the operation device can be realized, or a more interesting game can be realized ( (Refer to a fifth game example described later). Further, by changing the positional relationship between the two display devices each time, it is possible to deal with various games using the two display devices in various positional relationships.

また、上記(4)の構成によれば、外部表示装置に第2ゲーム画像を表示することができるので、異なる2種類のゲーム画像をプレイヤに提示することができる。したがって、2種類のゲーム画像によってゲーム空間を様々な方法で表すことができる。したがって、上記(4)の構成によれば、より見やすく、ゲーム操作が行いやすいゲーム画像をプレイヤに提示することができる。   According to the configuration (4), the second game image can be displayed on the external display device, so that two different types of game images can be presented to the player. Therefore, the game space can be represented by various methods using two types of game images. Therefore, according to the configuration of (4) above, it is possible to present to the player a game image that is easier to view and easier to perform the game operation.

(5)
ゲームシステムは、2つの操作装置を含んでいてもよい。このとき、ゲーム処理部は、各操作装置から受信した操作データに基づいてゲーム処理を実行する。
(5)
The game system may include two operation devices. At this time, the game processing unit executes the game process based on the operation data received from each operation device.

上記(5)の構成によれば、1つの操作装置を可搬型表示装置の方へ向けてゲーム操作を行うことができるとともに、もう1つの操作装置をマーカ装置の方へ向けてゲーム操作を行うことができる。したがって、マーカ装置を外部表示装置の周辺に設置する場合には、操作装置と表示装置とを1組として用いるゲーム(例えば後述する第5のゲーム例)において、2人のプレイヤが同時にゲームを行うことができる。   According to the configuration of (5) above, a game operation can be performed with one operating device directed toward the portable display device, and a game operation is performed with the other operating device directed toward the marker device. be able to. Therefore, when the marker device is installed around the external display device, two players play a game simultaneously in a game using the operation device and the display device as a set (for example, a fifth game example described later). be able to.

(6)
発光制御部は、ゲーム処理の内容に応じてマーカ装置および赤外発光部の発光を制御してもよい。
(6)
The light emission control unit may control light emission of the marker device and the infrared light emitting unit according to the content of the game process.

上記「ゲーム処理の内容に応じて(マーカ装置および赤外発光部の発光を)制御する」とは、ゲーム装置において実行されるゲームプログラムの種類に応じて発光を制御したり、同一のゲームプログラムが実行される場合でも、ゲーム状況(プレイヤの操作対象や操作方法、あるいは、ゲームの進行状況)に応じて発光を制御したりすることを含む意味である。   The above-mentioned “control according to the content of the game process (light emission of the marker device and the infrared light emitting unit)” means that the light emission is controlled according to the type of the game program executed in the game device, or the same game program Even when is executed, it means that the light emission is controlled according to the game situation (the operation target and operation method of the player, or the progress of the game).

上記(6)の構成によれば、ゲーム装置は、ゲーム処理の内容に応じて、マーカ装置および赤外発光部のいずれを発光させるか(または両方を発光させるか)を制御することができる。ここで、ゲームの内容によっては、マーカ装置と可搬型表示装置の赤外発光部との2つの発光装置のうちいずれか一方のみを使用する場合がある。また、2つの発光装置の両方を発光させる場合には、操作装置の撮像部がいずれの発光装置からの赤外光を検知しているのかをゲーム装置が判断することができないために、操作装置による操作を正確に行うことができない場合もある。これに対して、上記(6)の構成によれば、2つの発光装置のうちでゲーム処理の内容に応じた適切な発光装置を発光させることができるので、種々のゲームに対応することができるとともに、誤検出によって操作装置による操作が不正確になることを防止することができる。   According to the configuration of (6) above, the game device can control which of the marker device and the infrared light emitting section emits light (or both of them emit light) according to the content of the game process. Here, depending on the content of the game, only one of the two light emitting devices of the marker device and the infrared light emitting unit of the portable display device may be used. Further, when both of the two light emitting devices are caused to emit light, since the game device cannot determine which light emitting device the imaging unit of the operating device is detecting, the operating device In some cases, the operation cannot be performed accurately. On the other hand, according to the configuration of the above (6), an appropriate light-emitting device corresponding to the content of the game process can be emitted from the two light-emitting devices, so that various games can be handled. In addition, it is possible to prevent the operation by the operation device from being incorrect due to erroneous detection.

(7)
発光制御部は、赤外発光部による発光に対する制御指示を表す制御データを生成してもよい。このとき、データ送信部は、制御データを可搬型表示装置へ無線で送信する。可搬型表示装置は、ゲーム装置から制御データを受信する制御データ受信部をさらに備える。赤外発光部は、受信された制御データに従って動作する。
(7)
The light emission control unit may generate control data representing a control instruction for light emission by the infrared light emitting unit. At this time, the data transmission unit wirelessly transmits the control data to the portable display device. The portable display device further includes a control data receiving unit that receives control data from the game device. The infrared light emitting unit operates according to the received control data.

上記「データ送信部」は、上記「制御データ」を画像データとともに送信してもよいし画像データの送信タイミングとは異なるタイミングで送信してもよい。すなわち、画像データが逐次送信される場合でも、送信データは必要な場合にのみ送信され、画像データととともに逐次送信する必要はない。   The “data transmission unit” may transmit the “control data” together with the image data, or may transmit at a timing different from the transmission timing of the image data. That is, even when image data is sequentially transmitted, the transmission data is transmitted only when necessary, and it is not necessary to transmit the image data together with the image data.

上記(7)の構成によれば、ゲーム装置は、制御データを可搬型表示装置へ送信することによって、赤外発光部の発光を容易に制御することができる。   According to the configuration of (7) above, the game device can easily control the light emission of the infrared light emitting unit by transmitting the control data to the portable display device.

(8)
また、本発明の一例は、ゲーム装置と無線通信可能な可搬型の表示装置である。ゲーム装置は、ゲーム装置は、赤外光を検知可能な撮像部を備える操作装置から撮像部による検知結果を表すデータを受信し、当該データに基づいて実行されるゲーム処理に基づいて生成されるゲーム画像を表示装置へ逐次送信する。
表示装置は、赤外発光部と、ゲーム画像受信部と、表示部とを備える。赤外発光部は、赤外線を発光可能である。ゲーム画像受信部は、ゲーム装置からゲーム画像を逐次受信する。表示部は、ゲーム画像を逐次表示する。
(8)
An example of the present invention is a portable display device that can wirelessly communicate with a game device. The game device receives data representing a detection result by the imaging unit from an operating device including an imaging unit capable of detecting infrared light, and is generated based on a game process executed based on the data. The game image is sequentially transmitted to the display device.
The display device includes an infrared light emitting unit, a game image receiving unit, and a display unit. The infrared light emitting unit can emit infrared light. The game image receiving unit sequentially receives game images from the game device. The display unit sequentially displays game images.

上記(8)の構成によれば、上記(3)の構成と同様、可搬型表示装置は赤外発光部と表示部とを備えるとともに、操作装置が撮像部を備え、撮像部による検知結果に基づいてゲーム処理が実行される。したがって、上記(3)の構成と同様、ユーザは、表示装置を自由な位置に配置することによって操作装置を自由な向きに向けて使用することができ、操作装置に対する操作の自由度を向上することができる。
また、上記(8)の構成によれば、上記(3)の構成と同様、可搬型表示装置には高い情報処理能力が要求されないので、可搬型表示装置の小型化・軽量化が容易になり、製造も容易になる。
According to the configuration of (8) above, as with the configuration of (3) above, the portable display device includes the infrared light emitting unit and the display unit, and the operation device includes the imaging unit. Based on this, game processing is executed. Therefore, similarly to the configuration of (3) above, the user can use the operating device in a free orientation by arranging the display device at a free position, and the degree of freedom of operation with respect to the operating device is improved. be able to.
Further, according to the configuration of (8), similarly to the configuration of (3), since the portable display device does not require high information processing capability, it is easy to reduce the size and weight of the portable display device. Manufacturing is also facilitated.

(9)
ゲーム装置は、ゲーム画像を逐次圧縮して圧縮画像データを生成し、当該圧縮画像データを可搬型表示装置へ無線で逐次送信してもよい。このとき、表示装置は、圧縮画像データを逐次伸張して第1ゲーム画像を得るゲーム画像伸張部をさらに備える。表示部は、伸張によって得られた第1ゲーム画像を逐次表示する。
(9)
The game device may sequentially compress the game image to generate compressed image data, and sequentially transmit the compressed image data to the portable display device wirelessly. At this time, the display device further includes a game image expansion unit that sequentially expands the compressed image data to obtain a first game image. The display unit sequentially displays the first game image obtained by the expansion.

上記(9)の構成によれば、ゲーム画像は、圧縮されてゲーム装置から可搬型表示装置へ送信されるので、ゲーム画像を高速に無線送信することができ、ゲーム処理が行われてからゲーム画像が表示されるまでの遅延を少なくすることができる。   According to the configuration of (9) above, since the game image is compressed and transmitted from the game device to the portable display device, the game image can be wirelessly transmitted at high speed, and the game process is performed before the game is performed. The delay until the image is displayed can be reduced.

(10)
表示装置は、タッチパネルと、慣性センサと、操作データ送信部とをさらに備えていてもよい。タッチパネルは、表示部の画面に設けられる。操作データ送信部は、タッチパネルおよび慣性センサの出力データを含む操作データをゲーム装置へ無線で送信する。このとき、ゲーム装置は、操作データに基づいてゲーム処理を実行する。
(10)
The display device may further include a touch panel, an inertial sensor, and an operation data transmission unit. The touch panel is provided on the screen of the display unit. The operation data transmission unit wirelessly transmits operation data including output data of the touch panel and the inertial sensor to the game device. At this time, the game device executes a game process based on the operation data.

上記(10)の構成によれば、上記可搬型の表示装置は操作装置としても機能することとなる。例えば、上記表示装置をゲームシステムに使用する場合には、ユーザは、表示部の画面を見ながら表示装置自体を動かして操作することもできるし、また、表示装置を自由な位置に配置して別の操作装置を表示装置の方に向けて使用する表示手段としても使用する使うこともできる。つまり、上記(10)の構成によれば、操作装置としても表示装置としても使用することができる、多用途な装置を提供することができる。   According to the configuration of (10) above, the portable display device also functions as an operating device. For example, when the display device is used in a game system, the user can operate the display device by moving the display device while looking at the screen of the display unit, or arrange the display device at a free position. It can also be used as a display means for using another operating device toward the display device. That is, according to the configuration of (10) above, it is possible to provide a versatile device that can be used as both an operation device and a display device.

(11)
第1操作装置はマイクをさらに備えていてもよい。このとき、操作データ送信部は、マイクが検知した音のデータをゲーム装置へ無線でさらに送信する。
(11)
The first operating device may further include a microphone. At this time, the operation data transmission unit further wirelessly transmits the sound data detected by the microphone to the game device.

上記(11)において、操作装置からゲーム装置へ無線送信される音のデータは、後述する実施形態のように圧縮されて送信されてもよいし、圧縮されずに送信されてもよい。   In the above (11), the sound data wirelessly transmitted from the controller device to the game device may be compressed and transmitted as in the embodiment described later, or may be transmitted without being compressed.

上記(11)の構成によれば、操作装置のマイクで検知された音(マイク音声)はゲーム装置へ送信される。したがって、ゲーム装置は、マイク音声をゲーム音声に用いたり、マイク音声に音声認識処理を行った結果をゲーム入力として用いたりすることができる。   According to the configuration of (11) above, the sound (microphone sound) detected by the microphone of the operating device is transmitted to the game device. Therefore, the game apparatus can use the microphone sound as the game sound, or use the result of performing the voice recognition process on the microphone sound as the game input.

(12)
表示装置は、カメラと、カメラ画像圧縮部とをさらに備えていてもよい。カメラ画像圧縮部は、カメラが撮像したカメラ画像を圧縮して圧縮撮像データを生成する。このとき、操作データ送信部は、圧縮撮像データをゲーム装置へ無線でさらに送信する。
(12)
The display device may further include a camera and a camera image compression unit. The camera image compression unit compresses the camera image captured by the camera and generates compressed image data. At this time, the operation data transmission unit further transmits the compressed imaging data to the game device wirelessly.

上記(12)の構成によれば、表示装置のカメラで撮像されたカメラ画像がゲーム装置へ送信される。したがって、ゲーム装置は、カメラ画像をゲーム画像に用いたり、カメラ画像に画像認識処理を行った結果をゲーム入力として用いたりすることができる。また、上記(12)の構成によれば、カメラ画像は圧縮して送信されるので、カメラ画像を高速に無線送信することができる。   According to the configuration of (12) above, the camera image captured by the camera of the display device is transmitted to the game device. Therefore, the game apparatus can use the camera image as the game image, or use the result of performing the image recognition processing on the camera image as the game input. Further, according to the configuration of (12) above, since the camera image is compressed and transmitted, the camera image can be wirelessly transmitted at high speed.

(13)
表示装置は、複数の表面操作ボタンと、方向を指示可能な方向入力部とを備えていてもよい。複数の表面操作ボタンは、表示部の画面およびタッチパネルが設けられる表平面において当該画面の両側に設けられる。方向入力部は、表平面において画面の両側に設けられる。このとき、第1操作データは、複数の表面操作ボタンおよび方向入力部に対する操作を表すデータをさらに含む。
(13)
The display device may include a plurality of surface operation buttons and a direction input unit capable of specifying a direction. The plurality of surface operation buttons are provided on both sides of the screen on the front surface on which the screen of the display unit and the touch panel are provided. The direction input units are provided on both sides of the screen on the front plane. At this time, the first operation data further includes data representing operations on the plurality of surface operation buttons and the direction input unit.

上記(13)の構成によれば、表示装置の画面の両側には操作ボタンおよび方向入力部が設けられる。したがって、プレイヤは、表示装置を把持した状態において(典型的には両手の親指で)操作ボタンおよび方向入力部を操作することができるので、表示装置を動かす操作を行いながらであっても、操作ボタンおよび方向入力部を容易に操作することができる。   According to the configuration of (13) above, the operation buttons and the direction input unit are provided on both sides of the screen of the display device. Therefore, the player can operate the operation buttons and the direction input unit while holding the display device (typically with the thumbs of both hands), so that the operation can be performed even while performing the operation of moving the display device. The buttons and the direction input unit can be easily operated.

(14)
表示装置は、複数の裏面操作ボタンと、複数の側面操作ボタンとをさらに備えていてもよい。複数の裏面操作ボタンは裏平面に設けられる。裏平面は、表示部の画面およびタッチパネルが設けられる表平面の反対側の面である。複数の側面操作ボタンは、表平面と裏平面との間の側面に設けられる。このとき、操作データは、複数の裏面操作ボタンおよび側面操作ボタンに対する操作を表すデータをさらに含む。
(14)
The display device may further include a plurality of back surface operation buttons and a plurality of side surface operation buttons. The plurality of back surface operation buttons are provided on the back surface. The back plane is a surface on the opposite side of the front plane on which the screen of the display unit and the touch panel are provided. The plurality of side surface operation buttons are provided on the side surface between the front surface and the back surface. At this time, the operation data further includes data representing operations on the plurality of back surface operation buttons and the side surface operation buttons.

上記(14)の構成によれば、表示装置の裏平面および側面には操作ボタンが設けられる。したがって、プレイヤは、表示装置を把持した状態において(典型的には人差し指または中指で)これらの操作ボタンを操作することができるので、表示装置を動かす操作を行いながらであっても、操作ボタンを容易に操作することができる。   According to the configuration of (14) above, the operation buttons are provided on the back plane and side surfaces of the display device. Therefore, the player can operate these operation buttons while holding the display device (typically with the index finger or middle finger), so that the operation buttons can be operated even while the display device is being moved. Easy to operate.

(15)
表示装置は磁気センサをさらに備えていてもよい。このとき、操作データは磁気センサの検出結果のデータをさらに含む。
(15)
The display device may further include a magnetic sensor. At this time, the operation data further includes data of a detection result of the magnetic sensor.

上記(15)の構成によれば、表示装置は磁気センサを備え、ゲーム装置においては磁気センサの出力結果がゲーム処理に用いられる。したがって、プレイヤは、表示装置を動かすことによってゲーム操作を行うことができる。また、ゲーム装置は、実空間における絶対的な表示装置の姿勢を磁気センサの出力結果から判断することができるので、例えば慣性センサの出力結果と磁気センサの出力結果とを用いることで表示装置の姿勢を正確に算出することができる。   According to the configuration of (15) above, the display device includes the magnetic sensor, and the output result of the magnetic sensor is used for the game process in the game device. Therefore, the player can perform a game operation by moving the display device. In addition, since the game device can determine the absolute attitude of the display device in real space from the output result of the magnetic sensor, for example, by using the output result of the inertial sensor and the output result of the magnetic sensor, The posture can be accurately calculated.

(16)
慣性センサは、どのような慣性センサでもよいが、例えば3軸の加速度センサおよび3軸のジャイロセンサであってもよい。
(16)
The inertial sensor may be any inertial sensor. For example, a triaxial acceleration sensor and a triaxial gyro sensor may be used.

上記(16)の構成によれば、慣性センサとして加速度センサおよびジャイロセンサの2種類のセンサを用いることによって、第1操作装置の動きや姿勢を正確に算出することができる。   According to the configuration of (16) above, by using two types of sensors, that is, an acceleration sensor and a gyro sensor, as the inertial sensor, the movement and posture of the first controller device can be accurately calculated.

(17)
ゲーム装置は、ゲーム処理に基づいて生成されるゲーム音声を表示装置へ無線で送信してもよい。このとき、表示装置は、ゲーム音声をゲーム装置から受信するゲーム音声受信部と、ゲーム音声受信部によって受信されたゲーム音声を出力するスピーカとをさらに備える。
(17)
The game device may wirelessly transmit game sound generated based on the game process to the display device. At this time, the display device further includes a game sound receiving unit that receives game sound from the game device, and a speaker that outputs the game sound received by the game sound receiving unit.

上記(17)において、ゲーム装置から表示装置へ無線送信されるゲーム音声は、後述する実施形態のように圧縮されて送信されてもよいし、圧縮されずに送信されてもよい。   In the above (17), the game sound wirelessly transmitted from the game device to the display device may be compressed and transmitted as in the embodiment described later, or may be transmitted without being compressed.

上記(17)の構成によれば、ゲーム画像と同様、ゲーム音声を表示装置から出力することができる。   According to the configuration of (17) above, the game sound can be output from the display device as in the case of the game image.

また、本発明の別の一例は、上記(1)〜(7)のゲームシステムにおいて行われるゲーム処理方法の形態で実施されてもよい。   Further, another example of the present invention may be implemented in the form of a game processing method performed in the above game systems (1) to (7).

本発明によれば、可搬型の表示装置に赤外発光部を設け、当該表示装置にゲーム画像を表示させることによって、操作装置を自由な方向に向けて使用することが可能となり、操作装置に対する操作の自由度を向上することができる。   According to the present invention, an infrared light emitting unit is provided in a portable display device, and a game image is displayed on the display device, whereby the operation device can be used in any direction, and the operation device can be used. The degree of freedom of operation can be improved.

ゲームシステム1の外観図External view of game system 1 ゲーム装置3の内部構成を示すブロック図Block diagram showing the internal configuration of the game apparatus 3 コントローラ5の外観構成を示す斜視図The perspective view which shows the external appearance structure of the controller 5 コントローラ5の外観構成を示す斜視図The perspective view which shows the external appearance structure of the controller 5 コントローラ5の内部構造を示す図The figure which shows the internal structure of the controller 5 コントローラ5の内部構造を示す図The figure which shows the internal structure of the controller 5 コントローラ5の構成を示すブロック図Block diagram showing the configuration of the controller 5 端末装置7の外観構成を示す図The figure which shows the external appearance structure of the terminal device 7 ユーザが端末装置7を把持した様子を示す図The figure which shows a mode that the user hold | gripped the terminal device 7. 端末装置7の内部構成を示すブロック図The block diagram which shows the internal structure of the terminal device 7 ゲーム処理において用いられる各種データを示す図Diagram showing various data used in game processing ゲーム装置3において実行されるゲーム処理の流れを示すメインフローチャートMain flowchart showing a flow of game processing executed in the game apparatus 3 ゲーム制御処理の詳細な流れを示すフローチャートA flowchart showing a detailed flow of the game control process 第1のゲーム例におけるテレビ2の画面と端末装置7とを示す図The figure which shows the screen of the television 2 and the terminal device 7 in a 1st game example. 第2のゲーム例におけるテレビ2の画面と端末装置7とを示す図The figure which shows the screen of the television 2 and the terminal device 7 in a 2nd game example. 第3のゲーム例においてテレビ2に表示されるテレビ用ゲーム画像の一例を示す図The figure which shows an example of the game image for television displayed on the television 2 in the 3rd game example 第3のゲーム例において端末装置7に表示される端末用ゲーム画像の一例を示す図The figure which shows an example of the game image for terminals displayed on the terminal device 7 in the 3rd game example 第4のゲーム例においてテレビ2に表示されるテレビ用ゲーム画像の一例を示す図The figure which shows an example of the game image for television displayed on the television 2 in the 4th game example 第4のゲーム例において端末装置7に表示される端末用ゲーム画像の一例を示す図The figure which shows an example of the game image for terminals displayed on the terminal device 7 in the 4th game example 第5のゲーム例におけるゲームシステム1の使用の様子を示す図The figure which shows the mode of use of the game system 1 in the 5th game example. ネットワークを介して外部装置と接続される場合におけるゲームシステム1に含まれる各装置の接続関係を示す図The figure which shows the connection relation of each apparatus contained in the game system 1 in the case of connecting with an external apparatus via a network.

[1.ゲームシステムの全体構成]
以下、図面を参照して、本発明の一実施形態に係るゲームシステム1について説明する。図1は、ゲームシステム1の外観図である。図1において、ゲームシステム1は、テレビジョン受像器等に代表される据置型のディスプレイ装置(以下、「テレビ」と記載する)2、据置型のゲーム装置3、光ディスク4、コントローラ5、マーカ装置6、および、端末装置7を含む。ゲームシステム1は、コントローラ5を用いたゲーム操作に基づいてゲーム装置3においてゲーム処理を実行し、ゲーム処理によって得られるゲーム画像をテレビ2および/または端末装置7に表示するものである。
[1. Overall configuration of game system]
Hereinafter, a game system 1 according to an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is an external view of the game system 1. In FIG. 1, a game system 1 includes a stationary display device (hereinafter referred to as “TV”) 2 typified by a television receiver, a stationary game device 3, an optical disc 4, a controller 5, and a marker device. 6 and the terminal device 7. The game system 1 executes a game process in the game apparatus 3 based on a game operation using the controller 5 and displays a game image obtained by the game process on the television 2 and / or the terminal device 7.

ゲーム装置3には、当該ゲーム装置3に対して交換可能に用いられる情報記憶媒体の一例である光ディスク4が脱着可能に挿入される。光ディスク4には、ゲーム装置3において実行されるための情報処理プログラム(典型的にはゲームプログラム)が記憶されている。ゲーム装置3の前面には光ディスク4の挿入口が設けられている。ゲーム装置3は、挿入口に挿入された光ディスク4に記憶されている情報処理プログラムを読み出して実行することによってゲーム処理を実行する。   An optical disk 4 that is an example of an information storage medium that can be used interchangeably with the game apparatus 3 is detachably inserted into the game apparatus 3. The optical disc 4 stores an information processing program (typically a game program) to be executed in the game apparatus 3. An insertion slot for the optical disk 4 is provided on the front surface of the game apparatus 3. The game apparatus 3 executes the game process by reading and executing the information processing program stored in the optical disc 4 inserted into the insertion slot.

ゲーム装置3には、テレビ2が接続コードを介して接続される。テレビ2は、ゲーム装置3において実行されるゲーム処理によって得られるゲーム画像を表示する。テレビ2はスピーカ2a(図2)を有しており、スピーカ2aは、上記ゲーム処理の結果得られるゲーム音声を出力する。なお、他の実施形態においては、ゲーム装置3と据置型の表示装置とは一体となっていてもよい。また、ゲーム装置3とテレビ2との通信は無線通信であってもよい。   The game apparatus 3 is connected to the television 2 via a connection cord. The television 2 displays a game image obtained by a game process executed in the game device 3. The television 2 has a speaker 2a (FIG. 2), and the speaker 2a outputs game sound obtained as a result of the game processing. In other embodiments, the game apparatus 3 and the stationary display apparatus may be integrated. The communication between the game apparatus 3 and the television 2 may be wireless communication.

テレビ2の画面の周辺(図1では画面の上側)には、マーカ装置6が設置される。詳細は後述するが、ユーザ(プレイヤ)はコントローラ5を動かすゲーム操作を行うことができ、マーカ装置6は、コントローラ5の動きや位置や姿勢等をゲーム装置3が算出するために用いられる。マーカ装置6は、その両端に2つのマーカ6Rおよび6Lを備えている。マーカ6R(マーカ6Lも同様)は、具体的には1以上の赤外LED(Light Emitting Diode)であり、テレビ2の前方に向かって赤外光を出力する。マーカ装置6はゲーム装置3に接続されており、ゲーム装置3はマーカ装置6が備える各赤外LEDの点灯を制御することが可能である。なお、マーカ装置6は可搬型であり、ユーザはマーカ装置6を自由な位置に設置することができる。図1ではマーカ装置6がテレビ2の上に設置された態様を表しているが、マーカ装置6を設置する位置および向きは任意である。   A marker device 6 is installed around the screen of the television 2 (upper side of the screen in FIG. 1). Although details will be described later, the user (player) can perform a game operation to move the controller 5, and the marker device 6 is used for the game device 3 to calculate the movement, position, posture, and the like of the controller 5. The marker device 6 includes two markers 6R and 6L at both ends thereof. The marker 6 </ b> R (same for the marker 6 </ b> L) is specifically one or more infrared LEDs (Light Emitting Diodes), and outputs infrared light toward the front of the television 2. The marker device 6 is connected to the game device 3, and the game device 3 can control lighting of each infrared LED included in the marker device 6. The marker device 6 is portable, and the user can install the marker device 6 at a free position. Although FIG. 1 shows a mode in which the marker device 6 is installed on the television 2, the position and orientation in which the marker device 6 is installed are arbitrary.

コントローラ5は、自機に対して行われた操作の内容を表す操作データをゲーム装置3に与えるものである。コントローラ5とゲーム装置3とは無線通信によって通信可能である。本実施形態では、コントローラ5とゲーム装置3との間の無線通信には例えばBluetooth(ブルートゥース)(登録商標)の技術が用いられる。なお、他の実施形態においてはコントローラ5とゲーム装置3とは有線で接続されてもよい。また、本実施形態では、ゲームシステム1に含まれるコントローラ5は1つとするが、ゲーム装置3は複数のコントローラと通信可能であり、所定台数のコントローラを同時に使用することによって複数人でゲームをプレイすることが可能である。コントローラ5の詳細な構成については後述する。   The controller 5 gives operation data representing the content of the operation performed on the own device to the game apparatus 3. The controller 5 and the game apparatus 3 can communicate with each other by wireless communication. In the present embodiment, for example, Bluetooth (registered trademark) technology is used for wireless communication between the controller 5 and the game apparatus 3. In other embodiments, the controller 5 and the game apparatus 3 may be connected by wire. In the present embodiment, the game system 1 includes one controller 5, but the game apparatus 3 can communicate with a plurality of controllers, and a game can be played by a plurality of people by using a predetermined number of controllers simultaneously. Is possible. A detailed configuration of the controller 5 will be described later.

端末装置7は、ユーザが把持可能な程度の大きさであり、ユーザは端末装置7を手に持って動かしたり、あるいは、端末装置7を自由な位置に配置したりして使用することが可能である。詳細な構成は後述するが、端末装置7は、表示手段であるLCD(Liquid Crystal Display:液晶表示装置)51、および、入力手段(後述するタッチパネル52やジャイロセンサ64等)を備える。端末装置7とゲーム装置3とは無線(有線であってもよい)によって通信可能である。端末装置7は、ゲーム装置3で生成された画像(例えばゲーム画像)のデータをゲーム装置3から受信し、画像をLCD51に表示する。なお、本実施形態では表示装置としてLCDを用いているが、端末装置7は、例えばEL(Electro Luminescence:電界発光)を利用した表示装置等、他の任意の表示装置を有していてもよい。また、端末装置7は、自機に対して行われた操作の内容を表す操作データをゲーム装置3に送信する。   The terminal device 7 is large enough to be gripped by the user, and can be used by the user holding the terminal device 7 in his / her hand or placing the terminal device 7 in a free position. It is. Although the detailed configuration will be described later, the terminal device 7 includes an LCD (Liquid Crystal Display) 51 that is a display means, and input means (a touch panel 52, a gyro sensor 64, and the like described later). The terminal device 7 and the game device 3 can communicate wirelessly (may be wired). The terminal device 7 receives data of an image (for example, a game image) generated by the game device 3 from the game device 3 and displays the image on the LCD 51. In the present embodiment, an LCD is used as the display device. However, the terminal device 7 may have any other display device such as a display device using EL (Electro Luminescence). . In addition, the terminal device 7 transmits operation data representing the content of the operation performed on the own device to the game device 3.

[2.ゲーム装置3の内部構成]
次に、図2を参照して、ゲーム装置3の内部構成について説明する。図2は、ゲーム装置3の内部構成を示すブロック図である。ゲーム装置3は、CPU(Central Processing Unit)10、システムLSI11、外部メインメモリ12、ROM/RTC13、ディスクドライブ14、およびAV−IC15等を有する。
[2. Internal configuration of game device 3]
Next, the internal configuration of the game apparatus 3 will be described with reference to FIG. FIG. 2 is a block diagram showing an internal configuration of the game apparatus 3. The game apparatus 3 includes a CPU (Central Processing Unit) 10, a system LSI 11, an external main memory 12, a ROM / RTC 13, a disk drive 14, an AV-IC 15, and the like.

CPU10は、光ディスク4に記憶されたゲームプログラムを実行することによってゲーム処理を実行するものであり、ゲームプロセッサとして機能する。CPU10は、システムLSI11に接続される。システムLSI11には、CPU10の他、外部メインメモリ12、ROM/RTC13、ディスクドライブ14およびAV−IC15が接続される。システムLSI11は、それに接続される各構成要素間におけるデータ転送の制御、表示すべき画像の生成、外部装置からのデータの取得等の処理を行う。なお、システムLSI11の内部構成については後述する。揮発性の外部メインメモリ12は、光ディスク4から読み出されたゲームプログラムや、フラッシュメモリ17から読み出されたゲームプログラム等のプログラムを記憶したり、各種データを記憶したりするものであり、CPU10のワーク領域やバッファ領域として用いられる。ROM/RTC13は、ゲーム装置3の起動用のプログラムが組み込まれるROM(いわゆるブートROM)と、時間をカウントするクロック回路(RTC:Real Time Clock)とを有する。ディスクドライブ14は、光ディスク4からプログラムデータやテクスチャデータ等を読み出し、後述する内部メインメモリ11eまたは外部メインメモリ12に読み出したデータを書き込む。   The CPU 10 executes a game process by executing a game program stored on the optical disc 4, and functions as a game processor. The CPU 10 is connected to the system LSI 11. In addition to the CPU 10, an external main memory 12, a ROM / RTC 13, a disk drive 14, and an AV-IC 15 are connected to the system LSI 11. The system LSI 11 performs processing such as control of data transfer between components connected thereto, generation of an image to be displayed, and acquisition of data from an external device. The internal configuration of the system LSI 11 will be described later. The volatile external main memory 12 stores a program such as a game program read from the optical disc 4 or a game program read from the flash memory 17, or stores various data. Used as a work area and buffer area. The ROM / RTC 13 includes a ROM (so-called boot ROM) in which a program for starting the game apparatus 3 is incorporated, and a clock circuit (RTC: Real Time Clock) that counts time. The disk drive 14 reads program data, texture data, and the like from the optical disk 4 and writes the read data to an internal main memory 11e or an external main memory 12 described later.

システムLSI11には、入出力プロセッサ(I/Oプロセッサ)11a、GPU(Graphics Processor Unit)11b、DSP(Digital Signal Processor)11c、VRAM(Video RAM)11d、および内部メインメモリ11eが設けられる。図示は省略するが、これらの構成要素11a〜11eは内部バスによって互いに接続される。   The system LSI 11 is provided with an input / output processor (I / O processor) 11a, a GPU (Graphics Processor Unit) 11b, a DSP (Digital Signal Processor) 11c, a VRAM (Video RAM) 11d, and an internal main memory 11e. Although not shown, these components 11a to 11e are connected to each other by an internal bus.

GPU11bは、描画手段の一部を形成し、CPU10からのグラフィクスコマンド(作画命令)に従って画像を生成する。VRAM11dは、GPU11bがグラフィクスコマンドを実行するために必要なデータ(ポリゴンデータやテクスチャデータ等のデータ)を記憶する。画像が生成される際には、GPU11bは、VRAM11dに記憶されたデータを用いて画像データを作成する。なお、本実施形態においては、ゲーム装置3は、テレビ2に表示するゲーム画像と、端末装置7に表示するゲーム画像との両方を生成する。以下では、テレビ2に表示されるゲーム画像を「テレビ用ゲーム画像」と呼び、端末装置7に表示されるゲーム画像を「端末用ゲーム画像」と呼ぶことがある。   The GPU 11b forms part of a drawing unit and generates an image according to a graphics command (drawing command) from the CPU 10. The VRAM 11d stores data (data such as polygon data and texture data) necessary for the GPU 11b to execute the graphics command. When an image is generated, the GPU 11b creates image data using data stored in the VRAM 11d. In the present embodiment, the game apparatus 3 generates both a game image to be displayed on the television 2 and a game image to be displayed on the terminal device 7. Hereinafter, a game image displayed on the television 2 may be referred to as a “television game image”, and a game image displayed on the terminal device 7 may be referred to as a “terminal game image”.

DSP11cは、オーディオプロセッサとして機能し、内部メインメモリ11eや外部メインメモリ12に記憶されるサウンドデータや音波形(音色)データを用いて、音声データを生成する。なお、本実施形態においては、ゲーム音声についてもゲーム画像と同様、テレビ2のスピーカから出力するゲーム音声と、端末装置7のスピーカから出力するゲーム音声との両方が生成される。以下では、テレビ2から出力されるゲーム音声を「テレビ用ゲーム音声」と呼び、端末装置7から出力されるゲーム音声を「端末用ゲーム音声」と呼ぶことがある。   The DSP 11c functions as an audio processor, and generates sound data using sound data and sound waveform (tone color) data stored in the internal main memory 11e and the external main memory 12. In the present embodiment, both the game sound output from the speaker of the television 2 and the game sound output from the speaker of the terminal device 7 are generated for the game sound as well as the game image. Hereinafter, the game sound output from the television 2 may be referred to as “television game sound”, and the game sound output from the terminal device 7 may be referred to as “terminal game sound”.

上記のようにゲーム装置3において生成される画像および音声のうちで、テレビ2において出力される画像および音声のデータは、AV−IC15によって読み出される。AV−IC15は、読み出した画像データをAVコネクタ16を介してテレビ2に出力するとともに、読み出した音声データを、テレビ2に内蔵されるスピーカ2aに出力する。これによって、テレビ2に画像が表示されるとともにスピーカ2aから音が出力される。   Of the images and sounds generated by the game apparatus 3 as described above, image and sound data output by the television 2 is read by the AV-IC 15. The AV-IC 15 outputs the read image data to the television 2 via the AV connector 16, and outputs the read audio data to the speaker 2 a built in the television 2. Thus, an image is displayed on the television 2 and a sound is output from the speaker 2a.

また、ゲーム装置3において生成される画像および音声のうちで、端末装置7において出力される画像および音声のデータは、入出力プロセッサ11a等によって端末装置7へ送信される。入出力プロセッサ11a等による端末装置7へのデータの送信については後述する。   Of the images and sounds generated by the game apparatus 3, the image and sound data output from the terminal apparatus 7 is transmitted to the terminal apparatus 7 by the input / output processor 11a and the like. Data transmission to the terminal device 7 by the input / output processor 11a and the like will be described later.

入出力プロセッサ11aは、それに接続される構成要素との間でデータの送受信を実行したり、外部装置からのデータのダウンロードを実行したりする。入出力プロセッサ11aは、フラッシュメモリ17、ネットワーク通信モジュール18、コントローラ通信モジュール19、拡張コネクタ20、メモリカード用コネクタ21、コーデックLSI27に接続される。また、ネットワーク通信モジュール18にはアンテナ22が接続される。コントローラ通信モジュール19にはアンテナ23が接続される。コーデックLSI27は端末通信モジュール28に接続され、端末通信モジュール28にはアンテナ29が接続される。   The input / output processor 11a performs transmission / reception of data to / from components connected to the input / output processor 11a and downloads data from an external device. The input / output processor 11a is connected to the flash memory 17, the network communication module 18, the controller communication module 19, the expansion connector 20, the memory card connector 21, and the codec LSI 27. An antenna 22 is connected to the network communication module 18. An antenna 23 is connected to the controller communication module 19. The codec LSI 27 is connected to a terminal communication module 28, and an antenna 29 is connected to the terminal communication module 28.

ゲーム装置3は、インターネット等のネットワークに接続して外部情報処理装置(例えば他のゲーム装置や、各種サーバ等)と通信を行うことが可能である。すなわち、入出力プロセッサ11aは、ネットワーク通信モジュール18およびアンテナ22を介してインターネット等のネットワークに接続し、ネットワークに接続される外部情報処理装置と通信することができる。入出力プロセッサ11aは、定期的にフラッシュメモリ17にアクセスし、ネットワークへ送信する必要があるデータの有無を検出し、当該データが有る場合には、ネットワーク通信モジュール18およびアンテナ22を介してネットワークに送信する。また、入出力プロセッサ11aは、外部情報処理装置から送信されてくるデータやダウンロードサーバからダウンロードしたデータを、ネットワーク、アンテナ22およびネットワーク通信モジュール18を介して受信し、受信したデータをフラッシュメモリ17に記憶する。CPU10はゲームプログラムを実行することにより、フラッシュメモリ17に記憶されたデータを読み出してゲームプログラムで利用する。フラッシュメモリ17には、ゲーム装置3と外部情報処理装置との間で送受信されるデータの他、ゲーム装置3を利用してプレイしたゲームのセーブデータ(ゲームの結果データまたは途中データ)が記憶されてもよい。また、フラッシュメモリ17にはゲームプログラムが記憶されてもよい。   The game device 3 can connect to a network such as the Internet and communicate with an external information processing device (for example, another game device or various servers). That is, the input / output processor 11a is connected to a network such as the Internet via the network communication module 18 and the antenna 22, and can communicate with an external information processing apparatus connected to the network. The input / output processor 11a periodically accesses the flash memory 17 to detect the presence / absence of data that needs to be transmitted to the network. If there is such data, the input / output processor 11a communicates with the network via the network communication module 18 and the antenna 22. Send. Further, the input / output processor 11a receives data transmitted from the external information processing apparatus or data downloaded from the download server via the network, the antenna 22 and the network communication module 18, and receives the received data in the flash memory 17. Remember. By executing the game program, the CPU 10 reads out the data stored in the flash memory 17 and uses it in the game program. In addition to data transmitted and received between the game apparatus 3 and the external information processing apparatus, the flash memory 17 stores game save data (game result data or intermediate data) played using the game apparatus 3. May be. The flash memory 17 may store a game program.

また、ゲーム装置3は、コントローラ5からの操作データを受信することが可能である。すなわち、入出力プロセッサ11aは、コントローラ5から送信される操作データをアンテナ23およびコントローラ通信モジュール19を介して受信し、内部メインメモリ11eまたは外部メインメモリ12のバッファ領域に記憶(一時記憶)する。   The game apparatus 3 can receive operation data from the controller 5. That is, the input / output processor 11a receives the operation data transmitted from the controller 5 via the antenna 23 and the controller communication module 19, and stores (temporarily stores) it in the buffer area of the internal main memory 11e or the external main memory 12.

また、ゲーム装置3は、端末装置7との間で画像や音声等のデータを送受信することが可能である。入出力プロセッサ11aは、端末装置7へゲーム画像(端末用ゲーム画像)を送信する場合、GPU11bが生成したゲーム画像のデータをコーデックLSI27へ出力する。コーデックLSI27は、入出力プロセッサ11aからの画像データに対して所定の圧縮処理を行う。端末通信モジュール28は、端末装置7との間で無線通信を行う。したがって、コーデックLSI27によって圧縮された画像データは、端末通信モジュール28によってアンテナ29を介して端末装置7へ送信される。なお、本実施形態では、ゲーム装置3から端末装置7へ送信される画像データはゲームに用いるものであり、ゲームにおいては表示される画像に遅延が生じるとゲームの操作性に悪影響が出る。そのため、ゲーム装置3から端末装置7への画像データの送信に関しては、できるだけ遅延が生じないようにすることが好ましい。したがって、本実施形態では、コーデックLSI27は、例えばH.264規格といった高効率の圧縮技術を用いて画像データを圧縮する。なお、それ以外の圧縮技術を用いてもよいし、通信速度が十分である場合には無圧縮で画像データを送信する構成であってもよい。また、端末通信モジュール28は、例えばWi−Fiの認証を受けた通信モジュールであり、例えばIEEE802.11n規格で採用されるMIMO(Multiple Input Multiple Output)の技術を用いて端末装置7との間の無線通信を高速に行うようにしてもよいし、他の通信方式を用いてもよい。   Further, the game apparatus 3 can transmit and receive data such as images and sounds to and from the terminal device 7. When transmitting a game image (terminal game image) to the terminal device 7, the input / output processor 11 a outputs the game image data generated by the GPU 11 b to the codec LSI 27. The codec LSI 27 performs predetermined compression processing on the image data from the input / output processor 11a. The terminal communication module 28 performs wireless communication with the terminal device 7. Therefore, the image data compressed by the codec LSI 27 is transmitted to the terminal device 7 via the antenna 29 by the terminal communication module 28. In the present embodiment, the image data transmitted from the game apparatus 3 to the terminal apparatus 7 is used for the game, and if the displayed image is delayed in the game, the operability of the game is adversely affected. For this reason, it is preferable that the transmission of image data from the game apparatus 3 to the terminal device 7 is as little as possible. Therefore, in this embodiment, the codec LSI 27 is, for example, H.264. The image data is compressed using a highly efficient compression technique such as H.264 standard. Other compression techniques may be used, and when the communication speed is sufficient, the image data may be transmitted without compression. The terminal communication module 28 is a communication module that has received, for example, Wi-Fi authentication. For example, the terminal communication module 28 uses a MIMO (Multiple Input Multiple Output) technique adopted in the IEEE802.11n standard. Wireless communication may be performed at high speed, or another communication method may be used.

また、ゲーム装置3は、画像データの他、音声データを端末装置7へ送信する。すなわち、入出力プロセッサ11aは、DSP11cが生成した音声データを、コーデックLSI27を介して端末通信モジュール28へ出力する。コーデックLSI27は、音声データに対しても画像データと同様に圧縮処理を行う。音声データに対する圧縮の方式は、どのような方式であってもよいが、圧縮率が高く、音声の劣化が少ない方式が好ましい。また、他の実施形態においては、音声データは圧縮されずに送信されてもよい。端末通信モジュール28は、圧縮された画像データおよび音声データを、アンテナ29を介して端末装置7へ送信する。   In addition to the image data, the game apparatus 3 transmits audio data to the terminal device 7. That is, the input / output processor 11 a outputs the audio data generated by the DSP 11 c to the terminal communication module 28 via the codec LSI 27. The codec LSI 27 performs compression processing on the audio data in the same manner as the image data. The compression method for the audio data may be any method, but a method with a high compression rate and less deterioration of the sound is preferable. In other embodiments, audio data may be transmitted without being compressed. The terminal communication module 28 transmits the compressed image data and audio data to the terminal device 7 via the antenna 29.

さらに、ゲーム装置3は、上記画像データおよび音声データの他に、必要に応じて各種の制御データを端末装置7へ送信する。制御データは、端末装置7が備える構成要素に対する制御指示を表すデータであり、例えばマーカ部(図10に示すマーカ部55)の点灯を制御する指示や、カメラ(図10に示すカメラ56)の撮像を制御する指示等を表す。入出力プロセッサ11aは、CPU10の指示に応じて制御データを端末装置7へ送信する。なお、この制御データに関して、本実施形態ではコーデックLSI27はデータの圧縮処理を行わないが、他の実施形態においては圧縮処理を行うようにしてもよい。なお、ゲーム装置3から端末装置7へ送信される上述のデータは、必要に応じて暗号化がされていてもよいし、されていなくともよい。   Further, the game apparatus 3 transmits various control data to the terminal apparatus 7 as necessary in addition to the image data and the sound data. The control data is data representing a control instruction for a component included in the terminal device 7, and for example, an instruction for controlling lighting of the marker unit (marker unit 55 shown in FIG. 10) or a camera (camera 56 shown in FIG. 10). Indicates an instruction to control imaging. The input / output processor 11 a transmits control data to the terminal device 7 in accordance with an instruction from the CPU 10. With respect to this control data, the codec LSI 27 does not perform data compression processing in the present embodiment, but may perform compression processing in other embodiments. Note that the above-described data transmitted from the game device 3 to the terminal device 7 may or may not be encrypted as necessary.

また、ゲーム装置3は、端末装置7から各種データを受信可能である。詳細は後述するが、本実施形態では、端末装置7は、操作データ、画像データ、および音声データを送信する。端末装置7から送信される各データはアンテナ29を介して端末通信モジュール28によって受信される。ここで、端末装置7からの画像データおよび音声データは、ゲーム装置3から端末装置7への画像データおよび音声データと同様の圧縮処理が施されている。したがって、これら画像データおよび音声データについては、端末通信モジュール28からコーデックLSI27に送られ、コーデックLSI27によって伸張処理が施されて入出力プロセッサ11aに出力される。一方、端末装置7からの操作データに関しては、画像や音声に比べてデータ量が少ないので、圧縮処理が施されていなくともよい。また、必要に応じて暗号化がされていてもよいし、されていなくともよい。したがって、操作データは、端末通信モジュール28で受信された後、コーデックLSI27を介して入出力プロセッサ11aに出力される。入出力プロセッサ11aは、端末装置7から受信したデータを、内部メインメモリ11eまたは外部メインメモリ12のバッファ領域に記憶(一時記憶)する。   The game apparatus 3 can receive various data from the terminal device 7. Although details will be described later, in the present embodiment, the terminal device 7 transmits operation data, image data, and audio data. Each data transmitted from the terminal device 7 is received by the terminal communication module 28 via the antenna 29. Here, the image data and audio data from the terminal device 7 are subjected to the same compression processing as the image data and audio data from the game device 3 to the terminal device 7. Therefore, these image data and audio data are sent from the terminal communication module 28 to the codec LSI 27, subjected to expansion processing by the codec LSI 27, and output to the input / output processor 11a. On the other hand, the operation data from the terminal device 7 has a smaller amount of data than images and sounds, and therefore may not be subjected to compression processing. Further, encryption may or may not be performed as necessary. Accordingly, the operation data is received by the terminal communication module 28 and then output to the input / output processor 11 a via the codec LSI 27. The input / output processor 11a stores (temporarily stores) the data received from the terminal device 7 in the buffer area of the internal main memory 11e or the external main memory 12.

また、ゲーム装置3は、他の機器や外部記憶媒体に接続することが可能である。すなわち、入出力プロセッサ11aには、拡張コネクタ20およびメモリカード用コネクタ21が接続される。拡張コネクタ20は、USBやSCSIのようなインターフェースのためのコネクタである。拡張コネクタ20に対しては、外部記憶媒体のようなメディアを接続したり、他のコントローラ等の周辺機器を接続したり、有線の通信用コネクタを接続することによってネットワーク通信モジュール18に替えてネットワークとの通信を行ったりすることができる。メモリカード用コネクタ21は、メモリカードのような外部記憶媒体を接続するためのコネクタである。例えば、入出力プロセッサ11aは、拡張コネクタ20やメモリカード用コネクタ21を介して外部記憶媒体にアクセスし、外部記憶媒体にデータを保存したり、外部記憶媒体からデータを読み出したりすることができる。   Further, the game apparatus 3 can be connected to another device or an external storage medium. That is, the expansion connector 20 and the memory card connector 21 are connected to the input / output processor 11a. The expansion connector 20 is a connector for an interface such as USB or SCSI. A network such as an external storage medium is connected to the expansion connector 20, a peripheral device such as another controller is connected, or a wired communication connector is connected to replace the network communication module 18 with a network. You can communicate with. The memory card connector 21 is a connector for connecting an external storage medium such as a memory card. For example, the input / output processor 11a can access an external storage medium via the expansion connector 20 or the memory card connector 21 to store data in the external storage medium or read data from the external storage medium.

ゲーム装置3には、電源ボタン24、リセットボタン25、およびイジェクトボタン26が設けられる。電源ボタン24およびリセットボタン25は、システムLSI11に接続される。電源ボタン24がオンされると、図示しないACアダプタによって外部の電源からゲーム装置3の各構成要素に対して電力が供給される。リセットボタン25が押されると、システムLSI11は、ゲーム装置3の起動プログラムを再起動する。イジェクトボタン26は、ディスクドライブ14に接続される。イジェクトボタン26が押されると、ディスクドライブ14から光ディスク4が排出される。   The game apparatus 3 is provided with a power button 24, a reset button 25, and an eject button 26. The power button 24 and the reset button 25 are connected to the system LSI 11. When the power button 24 is turned on, power is supplied to each component of the game apparatus 3 from an external power source by an AC adapter (not shown). When the reset button 25 is pressed, the system LSI 11 restarts the boot program for the game apparatus 3. The eject button 26 is connected to the disk drive 14. When the eject button 26 is pressed, the optical disk 4 is ejected from the disk drive 14.

なお、他の実施形態においては、ゲーム装置3が備える各構成要素のうちでいくつかの構成要素は、ゲーム装置3とは別体の拡張機器として構成されてもよい。このとき、拡張機器は、例えば上記拡張コネクタ20を介してゲーム装置3と接続されるようにしてもよい。具体的には、拡張機器は、例えば上記コーデックLSI27、端末通信モジュール28およびアンテナ29の各構成要素を備えており、拡張コネクタ20に対して着脱可能であってもよい。これによれば、上記各構成要素を備えていないゲーム装置に対して上記拡張機器を接続することによって、当該ゲーム装置を端末装置7と通信可能な構成とすることができる。   In other embodiments, some of the components included in the game apparatus 3 may be configured as expansion devices that are separate from the game apparatus 3. At this time, the expansion device may be connected to the game apparatus 3 via the expansion connector 20, for example. Specifically, the extension device includes, for example, each component of the codec LSI 27, the terminal communication module 28, and the antenna 29, and may be detachable from the extension connector 20. According to this, the said game device can be set as the structure which can communicate with the terminal device 7 by connecting the said expansion apparatus with respect to the game device which is not provided with said each component.

[3.コントローラ5の構成]
次に、図3〜図7を参照して、コントローラ5について説明する。図3は、コントローラ5の外観構成を示す斜視図である。図4は、コントローラ5の外観構成を示す斜視図である。図3は、コントローラ5の上側後方から見た斜視図であり、図4は、コントローラ5を下側前方から見た斜視図である。
[3. Configuration of controller 5]
Next, the controller 5 will be described with reference to FIGS. FIG. 3 is a perspective view showing an external configuration of the controller 5. FIG. 4 is a perspective view showing an external configuration of the controller 5. 3 is a perspective view of the controller 5 as seen from the upper rear side, and FIG. 4 is a perspective view of the controller 5 as seen from the lower front side.

図3および図4において、コントローラ5は、例えばプラスチック成型によって形成されたハウジング31を有している。ハウジング31は、その前後方向(図3に示すZ軸方向)を長手方向とした略直方体形状を有しており、全体として大人や子供の片手で把持可能な大きさである。ユーザは、コントローラ5に設けられたボタンを押下すること、および、コントローラ5自体を動かしてその位置や姿勢(傾き)を変えることによってゲーム操作を行うことができる。   3 and 4, the controller 5 includes a housing 31 formed by plastic molding, for example. The housing 31 has a substantially rectangular parallelepiped shape whose longitudinal direction is the front-rear direction (the Z-axis direction shown in FIG. 3), and is a size that can be gripped with one hand of an adult or a child as a whole. The user can perform a game operation by pressing a button provided on the controller 5 and moving the controller 5 itself to change its position and posture (tilt).

ハウジング31には、複数の操作ボタンが設けられる。図3に示すように、ハウジング31の上面には、十字ボタン32a、1番ボタン32b、2番ボタン32c、Aボタン32d、マイナスボタン32e、ホームボタン32f、プラスボタン32g、および電源ボタン32hが設けられる。本明細書では、これらのボタン32a〜32hが設けられるハウジング31の上面を「ボタン面」と呼ぶことがある。一方、図4に示すように、ハウジング31の下面には凹部が形成されており、当該凹部の後面側傾斜面にはBボタン32iが設けられる。これらの各操作ボタン32a〜32iには、ゲーム装置3が実行する情報処理プログラムに応じた機能が適宜割り当てられる。また、電源ボタン32hは遠隔からゲーム装置3本体の電源をオン/オフするためのものである。ホームボタン32fおよび電源ボタン32hは、その上面がハウジング31の上面に埋没している。これによって、ユーザがホームボタン32fまたは電源ボタン32hを誤って押下することを防止することができる。   The housing 31 is provided with a plurality of operation buttons. As shown in FIG. 3, a cross button 32a, a first button 32b, a second button 32c, an A button 32d, a minus button 32e, a home button 32f, a plus button 32g, and a power button 32h are provided on the upper surface of the housing 31. It is done. In the present specification, the upper surface of the housing 31 on which these buttons 32a to 32h are provided may be referred to as a “button surface”. On the other hand, as shown in FIG. 4, a recess is formed on the lower surface of the housing 31, and a B button 32i is provided on the rear inclined surface of the recess. A function corresponding to the information processing program executed by the game apparatus 3 is appropriately assigned to each of the operation buttons 32a to 32i. The power button 32h is for remotely turning on / off the main body of the game apparatus 3. The home button 32 f and the power button 32 h are embedded in the upper surface of the housing 31. Thereby, it is possible to prevent the user from pressing the home button 32f or the power button 32h by mistake.

ハウジング31の後面にはコネクタ33が設けられている。コネクタ33は、コントローラ5に他の機器(例えば、他のセンサユニットやコントローラ)を接続するために利用される。また、ハウジング31の後面におけるコネクタ33の両側には、上記他の機器が容易に離脱することを防止するために係止穴33aが設けられている。   A connector 33 is provided on the rear surface of the housing 31. The connector 33 is used to connect another device (for example, another sensor unit or controller) to the controller 5. Further, locking holes 33a are provided on both sides of the connector 33 on the rear surface of the housing 31 in order to prevent the other devices from being easily detached.

ハウジング31上面の後方には複数(図3では4つ)のLED34a〜34dが設けられる。ここで、コントローラ5には、他のコントローラと区別するためにコントローラ種別(番号)が付与される。各LED34a〜34dは、コントローラ5に現在設定されている上記コントローラ種別をユーザに通知したり、コントローラ5の電池残量をユーザに通知したりする等の目的で用いられる。具体的には、コントローラ5を用いてゲーム操作が行われる際、上記コントローラ種別に応じて複数のLED34a〜34dのいずれか1つが点灯する。   A plurality (four in FIG. 3) of LEDs 34 a to 34 d are provided behind the upper surface of the housing 31. Here, the controller type (number) is assigned to the controller 5 to distinguish it from other controllers. The LEDs 34a to 34d are used for the purpose of notifying the user of the controller type currently set in the controller 5 and notifying the user of the remaining battery level of the controller 5. Specifically, when a game operation is performed using the controller 5, any one of the plurality of LEDs 34a to 34d is turned on according to the controller type.

また、コントローラ5は撮像情報演算部35(図6)を有しており、図4に示すように、ハウジング31前面には撮像情報演算部35の光入射面35aが設けられる。光入射面35aは、マーカ6Rおよび6Lからの赤外光を少なくとも透過する材質で構成される。   Further, the controller 5 has an imaging information calculation unit 35 (FIG. 6), and a light incident surface 35a of the imaging information calculation unit 35 is provided on the front surface of the housing 31, as shown in FIG. The light incident surface 35a is made of a material that transmits at least infrared light from the markers 6R and 6L.

ハウジング31上面における1番ボタン32bとホームボタン32fとの間には、コントローラ5に内蔵されるスピーカ47(図5)からの音を外部に放出するための音抜き孔31aが形成されている。   A sound release hole 31a is formed between the first button 32b and the home button 32f on the upper surface of the housing 31 for emitting sound from the speaker 47 (FIG. 5) built in the controller 5 to the outside.

次に、図5および図6を参照して、コントローラ5の内部構造について説明する。図5および図6は、コントローラ5の内部構造を示す図である。なお、図5は、コントローラ5の上筐体(ハウジング31の一部)を外した状態を示す斜視図である。図6は、コントローラ5の下筐体(ハウジング31の一部)を外した状態を示す斜視図である。図6に示す斜視図は、図5に示す基板30を裏面から見た斜視図となっている。   Next, the internal structure of the controller 5 will be described with reference to FIGS. 5 and 6 are diagrams showing the internal structure of the controller 5. FIG. FIG. 5 is a perspective view showing a state in which the upper housing (a part of the housing 31) of the controller 5 is removed. FIG. 6 is a perspective view showing a state in which the lower casing (a part of the housing 31) of the controller 5 is removed. The perspective view shown in FIG. 6 is a perspective view of the substrate 30 shown in FIG.

図5において、ハウジング31の内部には基板30が固設されており、当該基板30の上主面上に各操作ボタン32a〜32h、各LED34a〜34d、加速度センサ37、アンテナ45、およびスピーカ47等が設けられる。これらは、基板30等に形成された配線(図示せず)によってマイクロコンピュータ(Micro Computer:マイコン)42(図6参照)に接続される。本実施形態では、加速度センサ37は、X軸方向に関してコントローラ5の中心からずれた位置に配置されている。これによって、コントローラ5をZ軸回りに回転させたときのコントローラ5の動きが算出しやすくなる。また、加速度センサ37は、長手方向(Z軸方向)に関してコントローラ5の中心よりも前方に配置されている。また、無線モジュール44(図6)およびアンテナ45によって、コントローラ5がワイヤレスコントローラとして機能する。   In FIG. 5, a substrate 30 is fixed inside the housing 31, and operation buttons 32 a to 32 h, LEDs 34 a to 34 d, an acceleration sensor 37, an antenna 45, and a speaker 47 are provided on the upper main surface of the substrate 30. Etc. are provided. These are connected to a microcomputer (microcomputer) 42 (see FIG. 6) by wiring (not shown) formed on the substrate 30 and the like. In the present embodiment, the acceleration sensor 37 is disposed at a position shifted from the center of the controller 5 with respect to the X-axis direction. This makes it easier to calculate the movement of the controller 5 when the controller 5 is rotated about the Z axis. The acceleration sensor 37 is disposed in front of the center of the controller 5 in the longitudinal direction (Z-axis direction). Further, the controller 5 functions as a wireless controller by the wireless module 44 (FIG. 6) and the antenna 45.

一方、図6において、基板30の下主面上の前端縁に撮像情報演算部35が設けられる。撮像情報演算部35は、コントローラ5の前方から順に赤外線フィルタ38、レンズ39、撮像素子40、および画像処理回路41を備えている。これらの部材38〜41はそれぞれ基板30の下主面に取り付けられる。   On the other hand, in FIG. 6, an imaging information calculation unit 35 is provided at the front edge on the lower main surface of the substrate 30. The imaging information calculation unit 35 includes an infrared filter 38, a lens 39, an imaging element 40, and an image processing circuit 41 in order from the front of the controller 5. These members 38 to 41 are respectively attached to the lower main surface of the substrate 30.

さらに、基板30の下主面上には、上記マイコン42およびバイブレータ46が設けられている。バイブレータ46は、例えば振動モータやソレノイドであり、基板30等に形成された配線によってマイコン42と接続される。マイコン42の指示によりバイブレータ46が作動することによってコントローラ5に振動が発生する。これによって、コントローラ5を把持しているユーザの手にその振動が伝達される、いわゆる振動対応ゲームを実現することができる。本実施形態では、バイブレータ46は、ハウジング31のやや前方寄りに配置される。つまり、バイブレータ46がコントローラ5の中心よりも端側に配置することによって、バイブレータ46の振動によりコントローラ5全体を大きく振動させることができる。また、コネクタ33は、基板30の下主面上の後端縁に取り付けられる。なお、図5および図6に示す他、コントローラ5は、マイコン42の基本クロックを生成する水晶振動子、スピーカ47に音声信号を出力するアンプ等を備えている。   Further, the microcomputer 42 and the vibrator 46 are provided on the lower main surface of the substrate 30. The vibrator 46 is, for example, a vibration motor or a solenoid, and is connected to the microcomputer 42 by wiring formed on the substrate 30 or the like. When the vibrator 46 is actuated by an instruction from the microcomputer 42, vibration is generated in the controller 5. As a result, a so-called vibration-compatible game in which the vibration is transmitted to the user's hand holding the controller 5 can be realized. In the present embodiment, the vibrator 46 is disposed slightly forward of the housing 31. That is, by arranging the vibrator 46 on the end side of the center of the controller 5, the entire controller 5 can be vibrated greatly by the vibration of the vibrator 46. The connector 33 is attached to the rear edge on the lower main surface of the substrate 30. 5 and 6, the controller 5 includes a crystal resonator that generates a basic clock of the microcomputer 42, an amplifier that outputs an audio signal to the speaker 47, and the like.

なお、図3〜図6に示したコントローラ5の形状や、各操作ボタンの形状、加速度センサやバイブレータの数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。また、本実施形態では、撮像手段による撮像方向はZ軸正方向であるが、撮像方向はいずれの方向であってもよい。すなわち、コントローラ5における撮像情報演算部35の位置(撮像情報演算部35の光入射面35a)は、ハウジング31の前面でなくてもよく、ハウジング31の外部から光を取り入れることができれば他の面に設けられてもかまわない。   The shape of the controller 5, the shape of each operation button, the number of acceleration sensors and vibrators, and the installation positions shown in FIGS. 3 to 6 are merely examples, and other shapes, numbers, and installation positions may be used. May be. In the present embodiment, the imaging direction by the imaging unit is the positive Z-axis direction, but the imaging direction may be any direction. That is, the position of the imaging information calculation unit 35 in the controller 5 (the light incident surface 35a of the imaging information calculation unit 35) does not have to be the front surface of the housing 31, and other surfaces can be used as long as light can be taken in from the outside of the housing 31. May be provided.

図7は、コントローラ5の構成を示すブロック図である。コントローラ5は、操作部32(各操作ボタン32a〜32i)、撮像情報演算部35、通信部36、加速度センサ37、およびジャイロセンサ48を備えている。コントローラ5は、自機に対して行われた操作内容を表すデータを操作データとしてゲーム装置3へ送信するものである。なお、以下では、コントローラ5が送信する操作データを「コントローラ操作データ」と呼び、端末装置7が送信する操作データを「端末操作データ」と呼ぶことがある。   FIG. 7 is a block diagram showing the configuration of the controller 5. The controller 5 includes an operation unit 32 (operation buttons 32a to 32i), an imaging information calculation unit 35, a communication unit 36, an acceleration sensor 37, and a gyro sensor 48. The controller 5 transmits data representing the content of the operation performed on the own device to the game apparatus 3 as operation data. Hereinafter, the operation data transmitted from the controller 5 may be referred to as “controller operation data”, and the operation data transmitted from the terminal device 7 may be referred to as “terminal operation data”.

操作部32は、上述した各操作ボタン32a〜32iを含み、各操作ボタン32a〜32iに対する入力状態(各操作ボタン32a〜32iが押下されたか否か)を表す操作ボタンデータを通信部36のマイコン42へ出力する。   The operation unit 32 includes the operation buttons 32a to 32i described above, and the operation button data indicating the input state (whether or not each operation button 32a to 32i is pressed) to each operation button 32a to 32i is transmitted to the microcomputer of the communication unit 36. Output to 42.

撮像情報演算部35は、撮像手段が撮像した画像データを解析してその中で輝度が高い領域を判別してその領域の重心位置やサイズなどを算出するためのシステムである。撮像情報演算部35は、例えば最大200フレーム/秒程度のサンプリング周期を有するので、比較的高速なコントローラ5の動きでも追跡して解析することができる。   The imaging information calculation unit 35 is a system for analyzing the image data captured by the imaging unit, discriminating a region having a high luminance in the image data, and calculating a center of gravity position, a size, and the like of the region. Since the imaging information calculation unit 35 has a sampling period of, for example, about 200 frames / second at the maximum, it can track and analyze even a relatively fast movement of the controller 5.

撮像情報演算部35は、赤外線フィルタ38、レンズ39、撮像素子40、および画像処理回路41を含んでいる。赤外線フィルタ38は、コントローラ5の前方から入射する光から赤外線のみを通過させる。レンズ39は、赤外線フィルタ38を透過した赤外線を集光して撮像素子40へ入射させる。撮像素子40は、例えばCMOSセンサやあるいはCCDセンサのような固体撮像素子であり、レンズ39が集光した赤外線を受光して画像信号を出力する。ここで、撮像対象となる端末装置7のマーカ部55およびマーカ装置6は、赤外光を出力するマーカで構成される。したがって、赤外線フィルタ38を設けることによって、撮像素子40は、赤外線フィルタ38を通過した赤外線だけを受光して画像データを生成するので、撮像対象(マーカ部55および/またはマーカ装置6)の画像をより正確に撮像することができる。以下では、撮像素子40によって撮像された画像を撮像画像と呼ぶ。撮像素子40によって生成された画像データは、画像処理回路41で処理される。画像処理回路41は、撮像画像内における撮像対象の位置を算出する。画像処理回路41は、算出された位置を示す座標を通信部36のマイコン42へ出力する。この座標のデータは、マイコン42によって操作データとしてゲーム装置3に送信される。以下では、上記座標を「マーカ座標」と呼ぶ。マーカ座標はコントローラ5自体の向き(傾斜角度)や位置に対応して変化するので、ゲーム装置3はこのマーカ座標を用いてコントローラ5の向きや位置を算出することができる。   The imaging information calculation unit 35 includes an infrared filter 38, a lens 39, an imaging element 40, and an image processing circuit 41. The infrared filter 38 passes only infrared rays from the light incident from the front of the controller 5. The lens 39 collects the infrared light transmitted through the infrared filter 38 and makes it incident on the image sensor 40. The image sensor 40 is a solid-state image sensor such as a CMOS sensor or a CCD sensor, for example, and receives the infrared light collected by the lens 39 and outputs an image signal. Here, the marker unit 55 and the marker device 6 of the terminal device 7 to be imaged are configured by a marker that outputs infrared light. Therefore, by providing the infrared filter 38, the image sensor 40 receives only the infrared light that has passed through the infrared filter 38 and generates image data. Therefore, the image of the imaging target (the marker unit 55 and / or the marker device 6) is captured. More accurate imaging can be performed. Hereinafter, an image captured by the image sensor 40 is referred to as a captured image. Image data generated by the image sensor 40 is processed by the image processing circuit 41. The image processing circuit 41 calculates the position of the imaging target in the captured image. The image processing circuit 41 outputs coordinates indicating the calculated position to the microcomputer 42 of the communication unit 36. The coordinate data is transmitted to the game apparatus 3 as operation data by the microcomputer 42. Hereinafter, the coordinates are referred to as “marker coordinates”. Since the marker coordinates change corresponding to the direction (tilt angle) and position of the controller 5 itself, the game apparatus 3 can calculate the direction and position of the controller 5 using the marker coordinates.

なお、他の実施形態においては、コントローラ5は画像処理回路41を備えていない構成であってもよく、撮像画像自体がコントローラ5からゲーム装置3へ送信されてもよい。このとき、ゲーム装置3は、画像処理回路41と同様の機能を有する回路あるいはプログラムを有しており、上記マーカ座標を算出するようにしてもよい。   In other embodiments, the controller 5 may not include the image processing circuit 41, and the captured image itself may be transmitted from the controller 5 to the game apparatus 3. At this time, the game apparatus 3 may have a circuit or a program having the same function as the image processing circuit 41, and may calculate the marker coordinates.

加速度センサ37は、コントローラ5の加速度(重力加速度を含む)を検出する、すなわち、コントローラ5に加わる力(重力を含む)を検出する。加速度センサ37は、当該加速度センサ37の検出部に加わっている加速度のうち、センシング軸方向に沿った直線方向の加速度(直線加速度)の値を検出する。例えば、2軸以上の多軸加速度センサの場合には、加速度センサの検出部に加わっている加速度として、各軸に沿った成分の加速度をそれぞれ検出する。なお、加速度センサ37は、例えば静電容量式のMEMS(Micro Electro Mechanical System)型加速度センサであるとするが、他の方式の加速度センサを用いるようにしてもよい。   The acceleration sensor 37 detects the acceleration (including gravity acceleration) of the controller 5, that is, detects the force (including gravity) applied to the controller 5. The acceleration sensor 37 detects the value of the acceleration (linear acceleration) in the linear direction along the sensing axis direction among the accelerations applied to the detection unit of the acceleration sensor 37. For example, in the case of a multi-axis acceleration sensor having two or more axes, component acceleration along each axis is detected as the acceleration applied to the detection unit of the acceleration sensor. The acceleration sensor 37 is, for example, a capacitive MEMS (Micro Electro Mechanical System) type acceleration sensor, but other types of acceleration sensors may be used.

本実施形態では、加速度センサ37は、コントローラ5を基準とした上下方向(図3に示すY軸方向)、左右方向(図3に示すX軸方向)および前後方向(図3に示すZ軸方向)の3軸方向に関してそれぞれ直線加速度を検出する。加速度センサ37は、各軸に沿った直線方向に関する加速度を検出するものであるため、加速度センサ37からの出力は3軸それぞれの直線加速度の値を表すものとなる。すなわち、検出された加速度は、コントローラ5を基準に設定されるXYZ座標系(コントローラ座標系)における3次元のベクトルとして表される。   In the present embodiment, the acceleration sensor 37 has a vertical direction (Y-axis direction shown in FIG. 3), a horizontal direction (X-axis direction shown in FIG. 3), and a front-back direction (Z-axis direction shown in FIG. 3) with reference to the controller 5. ) Linear acceleration is detected in each of the three axis directions. Since the acceleration sensor 37 detects acceleration in the linear direction along each axis, the output from the acceleration sensor 37 represents the linear acceleration value of each of the three axes. That is, the detected acceleration is represented as a three-dimensional vector in an XYZ coordinate system (controller coordinate system) set with the controller 5 as a reference.

加速度センサ37が検出した加速度を表すデータ(加速度データ)は、通信部36へ出力される。なお、加速度センサ37が検出した加速度は、コントローラ5自体の向き(傾斜角度)や動きに対応して変化するので、ゲーム装置3は取得された加速度データを用いてコントローラ5の向きや動きを算出することができる。本実施形態では、ゲーム装置3は、取得された加速度データに基づいてコントローラ5の姿勢や傾斜角度等を算出する。   Data representing the acceleration detected by the acceleration sensor 37 (acceleration data) is output to the communication unit 36. The acceleration detected by the acceleration sensor 37 changes in accordance with the direction (tilt angle) and movement of the controller 5 itself, so the game apparatus 3 calculates the direction and movement of the controller 5 using the acquired acceleration data. can do. In the present embodiment, the game apparatus 3 calculates the attitude, tilt angle, and the like of the controller 5 based on the acquired acceleration data.

なお、加速度センサ37(後述する加速度センサ63についても同様)から出力される加速度の信号に基づいて、ゲーム装置3のプロセッサ(例えばCPU10)またはコントローラ5のプロセッサ(例えばマイコン42)等のコンピュータが処理を行うことによって、コントローラ5に関するさらなる情報を推測または算出(判定)することができることは、当業者であれば本明細書の説明から容易に理解できるであろう。例えば、加速度センサ37を搭載するコントローラ5が静止状態であることを前提としてコンピュータ側の処理が実行される場合(すなわち、加速度センサによって検出される加速度が重力加速度のみであるとして処理が実行される場合)、コントローラ5が現実に静止状態であれば、検出された加速度に基づいてコントローラ5の姿勢が重力方向に対して傾いているか否かまたはどの程度傾いているかを知ることができる。具体的には、加速度センサ37の検出軸が鉛直下方向を向いている状態を基準としたとき、1G(重力加速度)がかかっているか否かによって、コントローラ5が基準に対して傾いているか否かを知ることができるし、その大きさによって基準に対してどの程度傾いているかも知ることができる。また、多軸の加速度センサ37の場合には、さらに各軸の加速度の信号に対して処理を施すことによって、重力方向に対してコントローラ5がどの程度傾いているかをより詳細に知ることができる。この場合において、プロセッサは、加速度センサ37からの出力に基づいてコントローラ5の傾斜角度を算出してもよいし、当該傾斜角度を算出せずに、コントローラ5の傾斜方向を算出するようにしてもよい。このように、加速度センサ37をプロセッサと組み合わせて用いることによって、コントローラ5の傾斜角度または姿勢を判定することができる。   A computer such as a processor (for example, CPU 10) of the game apparatus 3 or a processor (for example, the microcomputer 42) of the controller 5 performs processing based on an acceleration signal output from the acceleration sensor 37 (the same applies to an acceleration sensor 63 described later). It can be easily understood by those skilled in the art from the description of the present specification that by performing the above, it is possible to estimate or calculate (determine) further information regarding the controller 5. For example, when processing on the computer side is executed on the assumption that the controller 5 on which the acceleration sensor 37 is mounted is stationary (that is, the processing is executed assuming that the acceleration detected by the acceleration sensor is only gravitational acceleration). When the controller 5 is actually stationary, it can be determined whether or not the attitude of the controller 5 is inclined with respect to the direction of gravity based on the detected acceleration. Specifically, whether or not the controller 5 is inclined with respect to the reference depending on whether or not 1G (gravity acceleration) is applied, based on the state in which the detection axis of the acceleration sensor 37 is directed vertically downward. It is possible to know how much it is inclined with respect to the reference according to its size. Further, in the case of the multi-axis acceleration sensor 37, it is possible to know in detail how much the controller 5 is inclined with respect to the direction of gravity by further processing the acceleration signal of each axis. . In this case, the processor may calculate the tilt angle of the controller 5 based on the output from the acceleration sensor 37, or may calculate the tilt direction of the controller 5 without calculating the tilt angle. Good. Thus, by using the acceleration sensor 37 in combination with the processor, the tilt angle or posture of the controller 5 can be determined.

一方、コントローラ5が動的な状態(コントローラ5が動かされている状態)であることを前提とする場合には、加速度センサ37は重力加速度に加えてコントローラ5の動きに応じた加速度を検出するので、検出された加速度から重力加速度の成分を所定の処理により除去することによってコントローラ5の動き方向を知ることができる。また、コントローラ5が動的な状態であることを前提とする場合であっても、検出された加速度から、加速度センサの動きに応じた加速度の成分を所定の処理により除去することによって、重力方向に対するコントローラ5の傾きを知ることが可能である。なお、他の実施例では、加速度センサ37は、内蔵の加速度検出手段で検出された加速度信号をマイコン42に出力する前に当該加速度信号に対して所定の処理を行うための、組込み式の処理装置または他の種類の専用の処理装置を備えていてもよい。組込み式または専用の処理装置は、例えば、加速度センサ37が静的な加速度(例えば、重力加速度)を検出するために用いられる場合、加速度信号を傾斜角(あるいは、他の好ましいパラメータ)に変換するものであってもよい。   On the other hand, when it is assumed that the controller 5 is in a dynamic state (a state in which the controller 5 is moved), the acceleration sensor 37 detects an acceleration corresponding to the movement of the controller 5 in addition to the gravitational acceleration. Therefore, the movement direction of the controller 5 can be known by removing the gravitational acceleration component from the detected acceleration by a predetermined process. Even if it is assumed that the controller 5 is in a dynamic state, the direction of gravity is obtained by removing the acceleration component corresponding to the movement of the acceleration sensor from the detected acceleration by a predetermined process. It is possible to know the inclination of the controller 5 with respect to. In another embodiment, the acceleration sensor 37 is a built-in process for performing a predetermined process on the acceleration signal before outputting the acceleration signal detected by the built-in acceleration detection means to the microcomputer 42. An apparatus or other type of dedicated processing apparatus may be provided. A built-in or dedicated processing device converts the acceleration signal into a tilt angle (or other preferred parameter) if, for example, the acceleration sensor 37 is used to detect static acceleration (eg, gravitational acceleration). It may be a thing.

ジャイロセンサ48は、3軸(本実施形態では、XYZ軸)回りの角速度を検出する。本明細書では、コントローラ5の撮像方向(Z軸正方向)を基準として、X軸回りの回転方向をピッチ方向、Y軸回りの回転方向をヨー方向、Z軸回りの回転方向をロール方向と呼ぶ。ジャイロセンサ48は、3軸回りの角速度を検出することができればよく、用いるジャイロセンサの数および組み合わせはどのようなものであってもよい。例えば、ジャイロセンサ48は、3軸ジャイロセンサであってもよいし、2軸ジャイロセンサと1軸ジャイロセンサとを組み合わせて3軸周りの角速度を検出するものであってもよい。ジャイロセンサ48で検出された角速度を表すデータは、通信部36へ出力される。また、ジャイロセンサ48は1軸または2軸回りの角速度を検出するものであってもよい。   The gyro sensor 48 detects angular velocities about three axes (XYZ axes in the present embodiment). In this specification, with the imaging direction (Z-axis positive direction) of the controller 5 as a reference, the rotation direction around the X axis is the pitch direction, the rotation direction around the Y axis is the yaw direction, and the rotation direction around the Z axis is the roll direction. Call. The gyro sensor 48 only needs to be able to detect angular velocities about three axes, and any number and combination of gyro sensors may be used. For example, the gyro sensor 48 may be a three-axis gyro sensor or a combination of a two-axis gyro sensor and a one-axis gyro sensor to detect an angular velocity around three axes. Data representing the angular velocity detected by the gyro sensor 48 is output to the communication unit 36. Further, the gyro sensor 48 may detect an angular velocity around one axis or two axes.

通信部36は、マイコン42、メモリ43、無線モジュール44、およびアンテナ45を含んでいる。マイコン42は、処理を行う際にメモリ43を記憶領域として用いながら、マイコン42が取得したデータをゲーム装置3へ無線送信する無線モジュール44を制御する。   The communication unit 36 includes a microcomputer 42, a memory 43, a wireless module 44, and an antenna 45. The microcomputer 42 controls the wireless module 44 that wirelessly transmits data acquired by the microcomputer 42 to the game apparatus 3 while using the memory 43 as a storage area when performing processing.

操作部32、撮像情報演算部35、加速度センサ37、およびジャイロセンサ48からマイコン42へ出力されたデータは、一時的にメモリ43に格納される。これらのデータは、操作データ(コントローラ操作データ)としてゲーム装置3へ送信される。すなわち、マイコン42は、ゲーム装置3のコントローラ通信モジュール19への送信タイミングが到来すると、メモリ43に格納されている操作データを無線モジュール44へ出力する。無線モジュール44は、例えばBluetooth(ブルートゥース)(登録商標)の技術を用いて、所定周波数の搬送波を操作データで変調し、その微弱電波信号をアンテナ45から放射する。つまり、操作データは、無線モジュール44で微弱電波信号に変調されてコントローラ5から送信される。微弱電波信号はゲーム装置3側のコントローラ通信モジュール19で受信される。受信された微弱電波信号について復調や復号を行うことによって、ゲーム装置3は操作データを取得することができる。そして、ゲーム装置3のCPU10は、コントローラ5から取得した操作データを用いてゲーム処理を行う。なお、通信部36からコントローラ通信モジュール19への無線送信は所定の周期毎に逐次行われるが、ゲームの処理は1/60秒を単位として(1フレーム時間として)行われることが一般的であるので、この時間以下の周期で送信を行うことが好ましい。コントローラ5の通信部36は、例えば1/200秒に1回の割合で操作データをゲーム装置3のコントローラ通信モジュール19へ出力する。   Data output from the operation unit 32, the imaging information calculation unit 35, the acceleration sensor 37, and the gyro sensor 48 to the microcomputer 42 is temporarily stored in the memory 43. These data are transmitted to the game apparatus 3 as operation data (controller operation data). That is, the microcomputer 42 outputs the operation data stored in the memory 43 to the wireless module 44 when the transmission timing to the controller communication module 19 of the game apparatus 3 arrives. The wireless module 44 modulates a carrier wave of a predetermined frequency with operation data using, for example, Bluetooth (registered trademark) technology, and radiates a weak radio signal from the antenna 45. That is, the operation data is modulated by the wireless module 44 into a weak radio signal and transmitted from the controller 5. The weak radio signal is received by the controller communication module 19 on the game apparatus 3 side. By demodulating and decoding the received weak radio signal, the game apparatus 3 can acquire operation data. Then, the CPU 10 of the game apparatus 3 performs a game process using the operation data acquired from the controller 5. Note that wireless transmission from the communication unit 36 to the controller communication module 19 is sequentially performed at predetermined intervals, but game processing is generally performed in units of 1/60 seconds (one frame time). Therefore, it is preferable to perform transmission at a period equal to or shorter than this time. The communication unit 36 of the controller 5 outputs the operation data to the controller communication module 19 of the game apparatus 3 at a rate of once every 1/200 seconds, for example.

以上のように、コントローラ5は、自機に対する操作を表す操作データとして、マーカ座標データ、加速度データ、角速度データ、および操作ボタンデータを送信可能である。また、ゲーム装置3は、上記操作データをゲーム入力として用いてゲーム処理を実行する。したがって、上記コントローラ5を用いることによって、ユーザは、各操作ボタンを押下する従来の一般的なゲーム操作に加えて、コントローラ5自体を動かすゲーム操作を行うことができる。例えば、コントローラ5を任意の姿勢に傾ける操作、コントローラ5によって画面上の任意の位置を指示する操作、および、コントローラ5自体を動かす操作等を行うことが可能となる。   As described above, the controller 5 can transmit the marker coordinate data, the acceleration data, the angular velocity data, and the operation button data as the operation data representing the operation on the own device. Further, the game apparatus 3 executes a game process using the operation data as a game input. Therefore, by using the controller 5, the user can perform a game operation for moving the controller 5 itself in addition to the conventional general game operation for pressing each operation button. For example, an operation of tilting the controller 5 to an arbitrary posture, an operation of instructing an arbitrary position on the screen by the controller 5, an operation of moving the controller 5 itself, and the like can be performed.

また、本実施形態において、コントローラ5は、ゲーム画像を表示する表示手段を有しないが、例えば電池残量を表す画像等を表示するための表示手段を有していてもよい。   In the present embodiment, the controller 5 does not have a display unit that displays a game image, but may include a display unit that displays, for example, an image representing the remaining battery level.

[4.端末装置7の構成]
次に、図8〜図10を参照して、端末装置7の構成について説明する。図8は、端末装置7の外観構成を示す図である。図8における(a)図は端末装置7の正面図であり、(b)図は上面図であり、(c)図は右側面図であり、(d)図は下面図である。また、図9は、ユーザが端末装置7を把持した様子を示す図である。
[4. Configuration of Terminal Device 7]
Next, the configuration of the terminal device 7 will be described with reference to FIGS. FIG. 8 is a diagram illustrating an external configuration of the terminal device 7. 8A is a front view of the terminal device 7, FIG. 8B is a top view, FIG. 8C is a right side view, and FIG. 8D is a bottom view. FIG. 9 is a diagram illustrating a state where the user holds the terminal device 7.

図8に示されるように、端末装置7は、大略的には横長の長方形の板状形状であるハウジング50を備える。ハウジング50は、ユーザが把持することができる程度の大きさである。したがって、ユーザは、端末装置7を持って動かしたり、端末装置7の配置位置を変更したりすることができる。   As shown in FIG. 8, the terminal device 7 includes a housing 50 that is generally a horizontally-long rectangular plate shape. The housing 50 is large enough to be gripped by the user. Therefore, the user can move the terminal apparatus 7 or change the arrangement position of the terminal apparatus 7.

端末装置7は、ハウジング50の表面にLCD51を有する。LCD51は、ハウジング50の表面の中央付近に設けられる。したがって、ユーザは、図9に示すようにLCD51の両側部分のハウジング50を持つことによって、LCD51の画面を見ながら端末装置を持って動かすことができる。なお、図9ではユーザがLCD51の左右両側の部分のハウジング50を持つことで端末装置7を横持ちで(横に長い向きにして)持つ例を示しているが、端末装置7を縦持ちで(縦に長い向きにして)持つことも可能である。   The terminal device 7 has an LCD 51 on the surface of the housing 50. The LCD 51 is provided near the center of the surface of the housing 50. Therefore, as shown in FIG. 9, the user can move the terminal device while holding the housing 50 on both sides of the LCD 51 while viewing the screen of the LCD 51. Although FIG. 9 shows an example in which the user holds the terminal device 7 horizontally by holding the housings 50 on both the left and right sides of the LCD 51 (with the side facing long), the terminal device 7 is held vertically. It can also be held (with a long vertical orientation).

図8の(a)図に示すように、端末装置7は、操作手段として、LCD51の画面上にタッチパネル52を有する。本実施形態では、タッチパネル52は抵抗膜方式のタッチパネルである。ただし、タッチパネルは抵抗膜方式に限らず、例えば静電容量方式等、任意の方式のタッチパネルを用いることができる。また、タッチパネル52はシングルタッチ方式でもよいし、マルチタッチ方式であってもよい。本実施形態では、タッチパネル52として、LCD51の解像度と同解像度(検出精度)のものを利用する。ただし、必ずしもタッチパネル52の解像度とLCD51の解像度が一致している必要はない。タッチパネル52に対する入力は通常タッチペンを用いて行われるが、タッチペンに限らずユーザの指でタッチパネル52に対する入力をすることも可能である。なお、ハウジング50には、タッチパネル52に対する操作を行うために用いられるタッチペンを収納するための収納穴が設けられていてもよい。このように、端末装置7はタッチパネル52を備えるので、ユーザは、端末装置7を動かしながらタッチパネル52を操作することができる。つまりユーザは、LCD51の画面を動かしつつ、その画面に対して直接(タッチパネル52によって)入力を行うことができる。   As illustrated in FIG. 8A, the terminal device 7 includes a touch panel 52 on the screen of the LCD 51 as an operation unit. In the present embodiment, the touch panel 52 is a resistive film type touch panel. However, the touch panel is not limited to the resistive film type, and any type of touch panel such as a capacitance type can be used. The touch panel 52 may be a single touch method or a multi-touch method. In the present embodiment, the touch panel 52 having the same resolution (detection accuracy) as the resolution of the LCD 51 is used. However, the resolution of the touch panel 52 and the resolution of the LCD 51 are not necessarily matched. Input to the touch panel 52 is normally performed using a touch pen, but it is also possible to input to the touch panel 52 with a user's finger without being limited to the touch pen. The housing 50 may be provided with a storage hole for storing a touch pen used to perform an operation on the touch panel 52. Thus, since the terminal device 7 includes the touch panel 52, the user can operate the touch panel 52 while moving the terminal device 7. That is, the user can directly input (by the touch panel 52) to the screen while moving the screen of the LCD 51.

図8に示すように、端末装置7は、操作手段として、2つのアナログスティック53Aおよび53Bと、複数のボタン54A〜54Lとを備えている。各アナログスティック53Aおよび53Bは、方向を指示するデバイスである。各アナログスティック53Aおよび53Bは、ユーザの指で操作されるスティック部がハウジング50の表面に対して任意の方向(上下左右および斜め方向の任意の角度)にスライドまたは傾倒することができるように構成されている。また、左アナログスティック53AはLCD51の画面の左側に、右アナログスティック53BはLCD51の画面の右側にそれぞれ設けられる。したがって、ユーザは、左右いずれの手でもアナログスティックを用いて方向を指示する入力を行うことができる。また、図9に示すように、各アナログスティック53Aおよび53Bは、ユーザが端末装置7の左右部分を把持した状態で操作可能な位置に設けられるので、ユーザは、端末装置7を持って動かす場合においても各アナログスティック53Aおよび53Bを容易に操作することができる。   As shown in FIG. 8, the terminal device 7 includes two analog sticks 53A and 53B and a plurality of buttons 54A to 54L as operation means. Each analog stick 53A and 53B is a device that indicates a direction. Each of the analog sticks 53A and 53B is configured such that the stick portion operated by the user's finger can slide or tilt in any direction (any angle in the up / down / left / right and diagonal directions) with respect to the surface of the housing 50. Has been. The left analog stick 53A is provided on the left side of the screen of the LCD 51, and the right analog stick 53B is provided on the right side of the screen of the LCD 51. Therefore, the user can make an input for instructing the direction with the left and right hands using the analog stick. Further, as shown in FIG. 9, the analog sticks 53 </ b> A and 53 </ b> B are provided at positions where the user can operate while holding the left and right portions of the terminal device 7. Also, the analog sticks 53A and 53B can be easily operated.

各ボタン54A〜54Lは、所定の入力を行うための操作手段である。以下に示すように、各ボタン54A〜54Lは、ユーザが端末装置7の左右部分を把持した状態で操作可能な位置に設けられる(図9参照)。したがって、ユーザは、端末装置7を持って動かす場合においてもこれらの操作手段を容易に操作することができる。   Each button 54A-54L is an operation means for performing a predetermined input. As shown below, each button 54A-54L is provided in the position which a user can operate in the state which hold | gripped the left-right part of the terminal device 7 (refer FIG. 9). Therefore, the user can easily operate these operation means even when the user moves the terminal device 7.

図8の(a)図に示すように、ハウジング50の表面には、各操作ボタン54A〜54Lのうち、十字ボタン(方向入力ボタン)54Aと、ボタン54B〜54Hとが設けられる。つまり、これらのボタン54A〜54Gは、ユーザの親指で操作可能な位置に配置されている(図9参照)。   As shown in FIG. 8A, on the surface of the housing 50, among the operation buttons 54A to 54L, a cross button (direction input button) 54A and buttons 54B to 54H are provided. That is, these buttons 54 </ b> A to 54 </ b> G are arranged at positions that can be operated with the user's thumb (see FIG. 9).

十字ボタン54Aは、LCD51の左側であって、左アナログスティック53Aの下側に設けられる。つまり、十字ボタン54Aはユーザの左手で操作可能な位置に配置されている。十字ボタン54Aは、十字の形状を有しており、上下左右の方向を指示することが可能なボタンである。また、ボタン54B〜54Dは、LCD51の下側に設けられる。これら3つのボタン54B〜54Dは、左右両方の手で操作可能な位置に配置されている。また、4つのボタン54E〜54Hは、LCD51の右側であって、右アナログスティック53Bの下側に設けられる。つまり、4つのボタン54E〜54Hはユーザの右手で操作可能な位置に配置されている。さらに、4つのボタン54E〜54Hは、(4つのボタン54E〜54Hの中心位置に対して)上下左右の位置関係となるように配置されている。したがって、端末装置7は、ユーザに上下左右の方向を指示させるためのボタンとして4つのボタン54E〜54Hを機能させることも可能である。   The cross button 54A is provided on the left side of the LCD 51 and below the left analog stick 53A. That is, the cross button 54A is arranged at a position where it can be operated with the left hand of the user. The cross button 54 </ b> A has a cross shape and is a button capable of instructing the vertical and horizontal directions. The buttons 54B to 54D are provided below the LCD 51. These three buttons 54B to 54D are arranged at positions that can be operated by both the left and right hands. The four buttons 54E to 54H are provided on the right side of the LCD 51 and below the right analog stick 53B. That is, the four buttons 54E to 54H are arranged at positions that can be operated with the right hand of the user. Further, the four buttons 54E to 54H are arranged so as to have a vertical / left / right positional relationship (relative to the center position of the four buttons 54E to 54H). Therefore, the terminal device 7 can also function the four buttons 54 </ b> E to 54 </ b> H as buttons for instructing the user in the up / down / left / right directions.

また、図8の(a)図、(b)図、および(c)図に示すように、第1Lボタン54Iおよび第1Rボタン54Jは、ハウジング50の斜め上部分(左上部分および右上部分)に設けられる。具体的には、第1Lボタン54Iは、板状のハウジング50における上側の側面の左端に設けられ、上側および左側の側面から露出している。また、第1Rボタン54Jは、ハウジング50における上側の側面の右端に設けられ、上側および右側の側面から露出している。このように、第1Lボタン54Iは、ユーザの左手人差し指で操作可能な位置に配置され、第1Rボタン54Jは、ユーザの右手人差し指で操作可能な位置に配置される(図9参照)。   Further, as shown in FIGS. 8A, 8B, and 8C, the first L button 54I and the first R button 54J are provided on an oblique upper portion (upper left portion and upper right portion) of the housing 50. Provided. Specifically, the first L button 54I is provided at the left end of the upper side surface of the plate-like housing 50, and is exposed from the upper and left side surfaces. The first R button 54J is provided at the right end of the upper side surface of the housing 50, and is exposed from the upper and right side surfaces. In this way, the first L button 54I is disposed at a position operable with the user's left index finger, and the first R button 54J is disposed at a position operable with the user's right hand index finger (see FIG. 9).

また、図8の(b)図および(c)図に示すように、第2Lボタン54Kおよび第2Rボタン54Lは、板状のハウジング50の裏面(すなわちLCD51が設けられる表面の反対側の面)に突起して設けられる足部59Aおよび59Bに配置される。具体的には、第2Lボタン54Kは、ハウジング50の裏面の左側(表面側から見たときの左側)のやや上方に設けられ、第2Rボタン54Lは、ハウジング50の裏面の右側(表面側から見たときの右側)のやや上方に設けられる。換言すれば、第2Lボタン54Kは、表面に設けられる左アナログスティック53Aの概ね反対側の位置に設けられ、第2Rボタン54Lは、表面に設けられる右アナログスティック53Bの概ね反対側の位置に設けられる。このように、第2Lボタン54Kは、ユーザの左手中指で操作可能な位置に配置され、第2Rボタン54Lは、ユーザの右手中指で操作可能な位置に配置される(図9参照)。また、第2Lボタン54Kおよび第2Rボタン54Lは、図8の(c)図に示すように、上記足部59Aおよび59Bの斜め上方を向く面に設けられ、斜め上方を向くボタン面を有する。ユーザが端末装置7を把持した場合には中指は上下方向に動くと考えられるので、ボタン面を上方に向けることで、ユーザは第2Lボタン54Kおよび第2Rボタン54Lを押下しやすくなる。また、ハウジング50の裏面に足部が設けられることにより、ユーザはハウジング50を把持しやすくなり、かつ、足部にボタンが設けられることで、ハウジング50を把持したまま操作しやすくなる。   As shown in FIGS. 8B and 8C, the second L button 54K and the second R button 54L are provided on the back surface of the plate-like housing 50 (that is, the surface opposite to the surface on which the LCD 51 is provided). It is arrange | positioned at the leg parts 59A and 59B which protrude and are provided. Specifically, the second L button 54K is provided slightly above the left side (left side when viewed from the front side) of the housing 50, and the second R button 54L is provided on the right side (from the front side of the housing 50). It is provided slightly above the right side when viewed. In other words, the second L button 54K is provided at a position approximately opposite to the left analog stick 53A provided on the surface, and the second R button 54L is provided at a position approximately opposite to the right analog stick 53B provided on the surface. It is done. As described above, the second L button 54K is disposed at a position operable by the user's left middle finger, and the second R button 54L is disposed at a position operable by the user's right middle finger (see FIG. 9). Further, as shown in FIG. 8C, the second L button 54K and the second R button 54L are provided on the diagonally upward surfaces of the feet 59A and 59B, and have button surfaces that are diagonally upward. When the user grips the terminal device 7, it is considered that the middle finger moves in the vertical direction. Therefore, the user can easily press the second L button 54K and the second R button 54L by turning the button surface upward. In addition, the foot is provided on the back surface of the housing 50, so that the user can easily hold the housing 50, and the buttons are provided on the foot, so that the user can easily operate while holding the housing 50.

なお、図8に示す端末装置7に関しては、第2Lボタン54Kおよび第2Rボタン54Lが裏面に設けられるので、LCD51の画面(ハウジング50の表面)が上を向いた状態で端末装置7を載置させる場合、画面が完全に水平にはならない場合がある。そのため、他の実施形態においては、ハウジング50の裏面に3つ以上の足部が形成されてもよい。これによれば、LCD51の画面が上を向いた状態では足部が床面に接することで床面に載置できるので、画面が水平になるように端末装置7を載置することができる。また、着脱可能な足部を追加することで端末装置7を水平に載置するようにしてもよい。   For the terminal device 7 shown in FIG. 8, since the second L button 54K and the second R button 54L are provided on the back surface, the terminal device 7 is placed with the screen of the LCD 51 (the surface of the housing 50) facing upward. The screen may not be completely horizontal. Therefore, in other embodiments, three or more legs may be formed on the back surface of the housing 50. According to this, in the state where the screen of the LCD 51 is facing upward, the foot can be placed on the floor by touching the floor, so that the terminal device 7 can be placed so that the screen is horizontal. Further, the terminal device 7 may be placed horizontally by adding a detachable foot.

各ボタン54A〜54Lには、ゲームプログラムに応じた機能が適宜割り当てられる。例えば、十字ボタン54Aおよびボタン54E〜54Hは方向指示操作や選択操作等に用いられてもよいし、各ボタン54B〜54Eは決定操作やキャンセル操作等に用いられてもよい。   Functions corresponding to the game program are appropriately assigned to the buttons 54A to 54L. For example, the cross button 54A and the buttons 54E to 54H may be used for a direction instruction operation or a selection operation, and the buttons 54B to 54E may be used for a determination operation or a cancel operation.

なお、図示しないが、端末装置7は、端末装置7の電源をオン/オフするための電源ボタンを有している。また、端末装置7は、LCD51の画面表示をオン/オフするためのボタンや、ゲーム装置3との接続設定(ペアリング)を行うためのボタンや、スピーカ(図10に示すスピーカ67)の音量を調節するためのボタンを有していてもよい。   Although not shown, the terminal device 7 has a power button for turning on / off the terminal device 7. The terminal device 7 also has a button for turning on / off the screen display of the LCD 51, a button for setting connection (pairing) with the game device 3, and a volume of a speaker (speaker 67 shown in FIG. 10). You may have a button for adjusting.

図8の(a)図に示すように、端末装置7は、マーカ55Aおよびマーカ55Bからなるマーカ部(図10に示すマーカ部55)をハウジング50の表面に備えている。マーカ部55は、LCD51の上側に設けられる。各マーカ55Aおよびマーカ55Bは、マーカ装置6の各マーカ6Rおよび6Lと同様、1以上の赤外LEDで構成される。マーカ部55は、上述のマーカ装置6と同様、コントローラ5の動き等をゲーム装置3が算出するために用いられる。また、ゲーム装置3はマーカ部55が備える各赤外LEDの点灯を制御することが可能である。   As illustrated in FIG. 8A, the terminal device 7 includes a marker portion (a marker portion 55 illustrated in FIG. 10) including a marker 55 </ b> A and a marker 55 </ b> B on the surface of the housing 50. The marker unit 55 is provided on the upper side of the LCD 51. Each of the markers 55A and 55B is composed of one or more infrared LEDs, like the markers 6R and 6L of the marker device 6. The marker unit 55 is used for the game device 3 to calculate the movement of the controller 5 and the like, similar to the marker device 6 described above. Further, the game apparatus 3 can control lighting of each infrared LED included in the marker unit 55.

端末装置7は、撮像手段であるカメラ56を備えている。カメラ56は、所定の解像度を有する撮像素子(例えば、CCDイメージセンサやCMOSイメージセンサ等)と、レンズとを含む。図8に示すように、本実施形態では、カメラ56はハウジング50の表面に設けられる。したがって、カメラ56は、端末装置7を持っているユーザの顔を撮像することができ、例えばLCD51を見ながらゲームを行っている時のユーザを撮像することができる。   The terminal device 7 includes a camera 56 that is an imaging unit. The camera 56 includes an imaging element (for example, a CCD image sensor or a CMOS image sensor) having a predetermined resolution, and a lens. As shown in FIG. 8, in this embodiment, the camera 56 is provided on the surface of the housing 50. Therefore, the camera 56 can take an image of the face of the user who has the terminal device 7, and can take an image of the user who is playing the game while watching the LCD 51, for example.

なお、端末装置7は、音声入力手段であるマイク(図10に示すマイク69)を備えている。ハウジング50の表面には、マイクロフォン用孔60が設けられる。マイク69はこのマイクロフォン用孔60の奥のハウジング50内部に設けられる。マイクは、ユーザの音声等、端末装置7の周囲の音を検出する。   The terminal device 7 includes a microphone (a microphone 69 shown in FIG. 10) that is a voice input unit. A microphone hole 60 is provided on the surface of the housing 50. The microphone 69 is provided inside the housing 50 behind the microphone hole 60. The microphone detects sounds around the terminal device 7 such as user's voice.

端末装置7は、音声出力手段であるスピーカ(図10に示すスピーカ67)を備えている。図8の(d)図に示すように、ハウジング50の下側側面にはスピーカ孔57が設けられる。スピーカ67の出力音はこのスピーカ孔57から出力される。本実施形態では、端末装置7は2つのスピーカを備えており、左スピーカおよび右スピーカのそれぞれの位置にスピーカ孔57が設けられる。   The terminal device 7 includes a speaker (speaker 67 shown in FIG. 10) that is an audio output means. As shown in FIG. 8D, a speaker hole 57 is provided on the lower side surface of the housing 50. The output sound of the speaker 67 is output from the speaker hole 57. In the present embodiment, the terminal device 7 includes two speakers, and speaker holes 57 are provided at positions of the left speaker and the right speaker.

また、端末装置7は、他の装置を端末装置7に接続するための拡張コネクタ58を備えている。本実施形態においては、図8の(d)図に示すように、拡張コネクタ58は、ハウジング50の下側側面に設けられる。なお、拡張コネクタ58に接続される他の装置はどのようなものであってもよく、例えば、特定のゲームに用いるコントローラ(銃型のコントローラ等)やキーボード等の入力装置であってもよい。他の装置を接続する必要がなければ、拡張コネクタ58は設けられていなくともよい。   Further, the terminal device 7 includes an expansion connector 58 for connecting other devices to the terminal device 7. In the present embodiment, the extension connector 58 is provided on the lower side surface of the housing 50 as shown in FIG. Note that any other device connected to the expansion connector 58 may be used. For example, a controller (such as a gun-type controller) used for a specific game or an input device such as a keyboard may be used. If it is not necessary to connect another device, the expansion connector 58 may not be provided.

なお、図8に示した端末装置7に関して、各操作ボタンやハウジング50の形状や、各構成要素の数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。   In addition, regarding the terminal device 7 shown in FIG. 8, the shape of each operation button and the housing 50, the number of components, the installation position, and the like are merely examples, and other shapes, numbers, and installation positions are included. Also good.

次に、図10を参照して、端末装置7の内部構成について説明する。図10は、端末装置7の内部構成を示すブロック図である。図10に示すように、端末装置7は、図8に示した構成の他、タッチパネルコントローラ61、磁気センサ62、加速度センサ63、ジャイロセンサ64、ユーザインタフェースコントローラ(UIコントローラ)65、コーデックLSI66、スピーカ67、サウンドIC68、マイク69、無線モジュール70、アンテナ71、赤外線通信モジュール72、フラッシュメモリ73、電源IC74、および電池75を備える。これらの電子部品は、電子回路基板上に実装されてハウジング50内に収納される。   Next, the internal configuration of the terminal device 7 will be described with reference to FIG. FIG. 10 is a block diagram showing the internal configuration of the terminal device 7. As shown in FIG. 10, in addition to the configuration shown in FIG. 8, the terminal device 7 includes a touch panel controller 61, a magnetic sensor 62, an acceleration sensor 63, a gyro sensor 64, a user interface controller (UI controller) 65, a codec LSI 66, a speaker. 67, a sound IC 68, a microphone 69, a wireless module 70, an antenna 71, an infrared communication module 72, a flash memory 73, a power supply IC 74, and a battery 75. These electronic components are mounted on an electronic circuit board and stored in the housing 50.

UIコントローラ65は、各種の入出力部に対するデータの入出力を制御するための回路である。UIコントローラ65は、タッチパネルコントローラ61、アナログスティック53(アナログスティック53Aおよび53B)、操作ボタン54(各操作ボタン54A〜54L)、マーカ部55、磁気センサ62、加速度センサ63、およびジャイロセンサ64に接続される。また、UIコントローラ65は、コーデックLSI66と拡張コネクタ58に接続される。また、UIコントローラ65には電源IC74が接続され、UIコントローラ65を介して各部に電力が供給される。電源IC74には内蔵の電池75が接続され、電力が供給される。また、電源IC74には、コネクタ等を介して外部電源から電力を取得可能な充電器76またはケーブルを接続することが可能であり、端末装置7は、当該充電器76またはケーブルを用いて外部電源からの電力供給と充電を行うことができる。なお、端末装置7は、図示しない充電機能を有するクレイドルに端末装置7を装着することで充電を行うようにしてもよい。   The UI controller 65 is a circuit for controlling input / output of data to / from various input / output units. The UI controller 65 is connected to the touch panel controller 61, the analog stick 53 (analog sticks 53 </ b> A and 53 </ b> B), the operation buttons 54 (operation buttons 54 </ b> A to 54 </ b> L), the marker unit 55, the magnetic sensor 62, the acceleration sensor 63, and the gyro sensor 64. Is done. The UI controller 65 is connected to the codec LSI 66 and the expansion connector 58. A power supply IC 74 is connected to the UI controller 65, and power is supplied to each unit via the UI controller 65. A built-in battery 75 is connected to the power supply IC 74 to supply power. The power supply IC 74 can be connected to a charger 76 or a cable that can acquire power from an external power source via a connector or the like. The terminal device 7 can be connected to the external power source using the charger 76 or the cable. Power supply and charging from can be performed. The terminal device 7 may be charged by attaching the terminal device 7 to a cradle having a charging function (not shown).

タッチパネルコントローラ61は、タッチパネル52に接続され、タッチパネル52の制御を行う回路である。タッチパネルコントローラ61は、タッチパネル52からの信号に基づいて所定の形式のタッチ位置データを生成してUIコントローラ65へ出力する。タッチ位置データは、タッチパネル52の入力面において入力が行われた位置の座標を表す。なお、タッチパネルコントローラ61は、タッチパネル52からの信号の読み込み、および、タッチ位置データの生成を所定時間に1回の割合で行う。また、UIコントローラ65からタッチパネルコントローラ61へは、タッチパネル52に対する各種の制御指示が出力される。   The touch panel controller 61 is a circuit that is connected to the touch panel 52 and controls the touch panel 52. The touch panel controller 61 generates touch position data in a predetermined format based on a signal from the touch panel 52 and outputs the generated touch position data to the UI controller 65. The touch position data represents the coordinates of the position where the input has been performed on the input surface of the touch panel 52. The touch panel controller 61 reads signals from the touch panel 52 and generates touch position data at a rate of once per predetermined time. Various control instructions for the touch panel 52 are output from the UI controller 65 to the touch panel controller 61.

アナログスティック53は、ユーザの指で操作されるスティック部がスライドした(または傾倒した)方向および量を表すスティックデータをUIコントローラ65へ出力する。また、操作ボタン54は、各操作ボタン54A〜54Lに対する入力状況(押下されたか否か)を表す操作ボタンデータをUIコントローラ65へ出力する。   The analog stick 53 outputs to the UI controller 65 stick data representing the direction and amount in which the stick unit operated by the user's finger has slid (or tilted). In addition, the operation button 54 outputs operation button data representing an input status (whether or not the button is pressed) to each of the operation buttons 54 </ b> A to 54 </ b> L to the UI controller 65.

磁気センサ62は、磁界の大きさおよび方向を検知することで方位を検出する。検出された方位を示す方位データは、UIコントローラ65へ出力される。また、UIコントローラ65から磁気センサ62へは、磁気センサ62に対する制御指示が出力される。磁気センサ62に関しては、MI(磁気インピーダンス)素子、フラックスゲートセンサ、ホール素子、GMR(巨大磁気抵抗)素子、TMR(トンネル磁気抵抗)素子、あるいはAMR(異方性磁気抵抗)素子等を用いたセンサがあるが、方位を検出することができればどのようなものが用いられてもよい。なお、厳密には、地磁気以外に磁界が発生している場所においては、得られた方位データは方位を示さないことになるが、そのような場合であっても、端末装置7が動いた場合には方位データが変化するため、端末装置7の姿勢の変化を算出することができる。   The magnetic sensor 62 detects the azimuth by detecting the magnitude and direction of the magnetic field. The azimuth data indicating the detected azimuth is output to the UI controller 65. Further, a control instruction for the magnetic sensor 62 is output from the UI controller 65 to the magnetic sensor 62. For the magnetic sensor 62, an MI (magnetic impedance) element, a fluxgate sensor, a Hall element, a GMR (giant magnetoresistance) element, a TMR (tunnel magnetoresistance) element, an AMR (anisotropic magnetoresistance) element, or the like was used. Although there is a sensor, any sensor may be used as long as it can detect the direction. Strictly speaking, in a place where a magnetic field is generated in addition to the geomagnetism, the obtained azimuth data does not indicate the azimuth, but even in such a case, the terminal device 7 moves. Since the orientation data changes, the change in the attitude of the terminal device 7 can be calculated.

加速度センサ63は、ハウジング50の内部に設けられ、3軸(図8の(a)図に示すxyz軸)方向に沿った直線加速度の大きさを検出する。具体的には、加速度センサ63は、ハウジング50の長辺方向をx軸、ハウジング50の短辺方向をy軸、ハウジング50の表面に対して垂直な方向をz軸として、各軸の直線加速度の大きさを検出する。検出された加速度を表す加速度データはUIコントローラ65へ出力される。また、UIコントローラ65から加速度センサ63へは、加速度センサ63に対する制御指示が出力される。加速度センサ63は、本実施形態では例えば静電容量式のMEMS型加速度センサであるとするが、他の実施形態においては他の方式の加速度センサを用いるようにしてもよい。また、加速度センサ63は1軸または2軸方向を検出する加速度センサであってもよい。   The acceleration sensor 63 is provided inside the housing 50 and detects the magnitude of linear acceleration along the direction of three axes (xyz axes shown in FIG. 8A). Specifically, the acceleration sensor 63 is configured such that the long side direction of the housing 50 is the x axis, the short side direction of the housing 50 is the y axis, and the direction perpendicular to the surface of the housing 50 is the z axis. Detect the size of. Acceleration data representing the detected acceleration is output to the UI controller 65. Further, a control instruction for the acceleration sensor 63 is output from the UI controller 65 to the acceleration sensor 63. The acceleration sensor 63 is, for example, a capacitive MEMS acceleration sensor in the present embodiment, but other types of acceleration sensors may be used in other embodiments. Further, the acceleration sensor 63 may be an acceleration sensor that detects a uniaxial or biaxial direction.

ジャイロセンサ64は、ハウジング50の内部に設けられ、上記x軸、y軸およびz軸の3軸周りの角速度を検出する。検出された角速度を表す角速度データは、UIコントローラ65へ出力される。また、UIコントローラ65からジャイロセンサ64へは、ジャイロセンサ64に対する制御指示が出力される。なお、3軸の角速度を検出するために用いられるジャイロセンサの数および組み合わせはどのようなものであってもよく、ジャイロセンサ64はジャイロセンサ48と同様、2軸ジャイロセンサと1軸ジャイロセンサとで構成されてもよい。また、ジャイロセンサ64は1軸または2軸方向を検出するジャイロセンサであってもよい。   The gyro sensor 64 is provided inside the housing 50 and detects angular velocities around the three axes of the x axis, the y axis, and the z axis. Angular velocity data representing the detected angular velocity is output to the UI controller 65. Further, a control instruction for the gyro sensor 64 is output from the UI controller 65 to the gyro sensor 64. Any number and combination of gyro sensors may be used for detecting the three-axis angular velocity, and the gyro sensor 64 is similar to the gyro sensor 48 in that a two-axis gyro sensor, a one-axis gyro sensor, It may be constituted by. Further, the gyro sensor 64 may be a gyro sensor that detects a uniaxial or biaxial direction.

UIコントローラ65は、上記の各構成要素から受け取ったタッチ位置データ、スティックデータ、操作ボタンデータ、方位データ、加速度データ、および角速度データを含む操作データをコーデックLSI66に出力する。なお、拡張コネクタ58を介して端末装置7に他の装置が接続される場合には、当該他の装置に対する操作を表すデータが上記操作データにさらに含まれていてもよい。   The UI controller 65 outputs operation data including touch position data, stick data, operation button data, azimuth data, acceleration data, and angular velocity data received from each component described above to the codec LSI 66. When another device is connected to the terminal device 7 via the extension connector 58, the operation data may further include data representing an operation on the other device.

コーデックLSI66は、ゲーム装置3へ送信するデータに対する圧縮処理、および、ゲーム装置3から送信されたデータに対する伸張処理を行う回路である。コーデックLSI66には、LCD51、カメラ56、サウンドIC68、無線モジュール70、フラッシュメモリ73、および赤外線通信モジュール72が接続される。また、コーデックLSI66はCPU77と内部メモリ78を含む。端末装置7はゲーム処理自体を行なわない構成であるが、端末装置7の管理や通信のための最小限のプログラムを実行する必要がある。電源投入時にフラッシュメモリ73に格納されたプログラムを内部メモリ78に読み出してCPU77が実行することで、端末装置7が起動する。また、内部メモリ78の一部の領域はLCD51のためのVRAMとして使用される。   The codec LSI 66 is a circuit that performs compression processing on data transmitted to the game apparatus 3 and expansion processing on data transmitted from the game apparatus 3. Connected to the codec LSI 66 are an LCD 51, a camera 56, a sound IC 68, a wireless module 70, a flash memory 73, and an infrared communication module 72. The codec LSI 66 includes a CPU 77 and an internal memory 78. Although the terminal device 7 is configured not to perform the game process itself, it is necessary to execute a minimum program for management and communication of the terminal device 7. When the power is turned on, the program stored in the flash memory 73 is read into the internal memory 78 and executed by the CPU 77, whereby the terminal device 7 is activated. A part of the internal memory 78 is used as a VRAM for the LCD 51.

カメラ56は、ゲーム装置3からの指示に従って画像を撮像し、撮像した画像データをコーデックLSI66へ出力する。また、コーデックLSI66からカメラ56へは、画像の撮像指示等、カメラ56に対する制御指示が出力される。なお、カメラ56は動画の撮影も可能である。すなわち、カメラ56は、繰り返し撮像を行って画像データをコーデックLSI66へ繰り返し出力することも可能である。   The camera 56 captures an image in accordance with an instruction from the game apparatus 3 and outputs the captured image data to the codec LSI 66. Control instructions for the camera 56 such as an image capturing instruction are output from the codec LSI 66 to the camera 56. Note that the camera 56 can also capture moving images. That is, the camera 56 can repeatedly capture images and repeatedly output image data to the codec LSI 66.

サウンドIC68は、スピーカ67およびマイク69に接続され、スピーカ67およびマイク69への音声データの入出力を制御する回路である。すなわち、コーデックLSI66から音声データを受け取った場合、サウンドIC68は当該音声データに対してD/A変換を行って得られる音声信号をスピーカ67へ出力し、スピーカ67から音を出力させる。また、マイク69は、端末装置7に伝わる音(ユーザの音声等)を検知して、当該音を示す音声信号をサウンドIC68へ出力する。サウンドIC68は、マイク69からの音声信号に対してA/D変換を行い、所定の形式の音声データをコーデックLSI66へ出力する。   The sound IC 68 is a circuit that is connected to the speaker 67 and the microphone 69 and controls input / output of audio data to and from the speaker 67 and the microphone 69. That is, when audio data is received from the codec LSI 66, the sound IC 68 outputs an audio signal obtained by performing D / A conversion on the audio data to the speaker 67 and causes the speaker 67 to output sound. The microphone 69 detects a sound (such as a user's voice) transmitted to the terminal device 7 and outputs a sound signal indicating the sound to the sound IC 68. The sound IC 68 performs A / D conversion on the audio signal from the microphone 69 and outputs audio data in a predetermined format to the codec LSI 66.

コーデックLSI66は、カメラ56からの画像データ、マイク69からの音声データ、および、UIコントローラ65からの操作データを、端末操作データとして無線モジュール70を介してゲーム装置3へ送信する。本実施形態では、コーデックLSI66は、画像データおよび音声データに対して、コーデックLSI27と同様の圧縮処理を行う。上記端末操作データ、ならびに、圧縮された画像データおよび音声データは、送信データとして無線モジュール70に出力される。無線モジュール70にはアンテナ71が接続されており、無線モジュール70はアンテナ71を介してゲーム装置3へ上記送信データを送信する。無線モジュール70は、ゲーム装置3の端末通信モジュール28と同様の機能を有している。すなわち、無線モジュール70は、例えばIEEE802.11nの規格に準拠した方式により、無線LANに接続する機能を有する。送信されるデータは必要に応じて暗号化されていてもよいし、されていなくともよい。   The codec LSI 66 transmits the image data from the camera 56, the audio data from the microphone 69, and the operation data from the UI controller 65 to the game apparatus 3 via the wireless module 70 as terminal operation data. In the present embodiment, the codec LSI 66 performs the same compression processing as the codec LSI 27 on the image data and the audio data. The terminal operation data and the compressed image data and audio data are output to the wireless module 70 as transmission data. An antenna 71 is connected to the wireless module 70, and the wireless module 70 transmits the transmission data to the game apparatus 3 via the antenna 71. The wireless module 70 has the same function as the terminal communication module 28 of the game apparatus 3. That is, the wireless module 70 has a function of connecting to a wireless LAN by a method compliant with, for example, the IEEE 802.11n standard. The data to be transmitted may or may not be encrypted as necessary.

以上のように、端末装置7からゲーム装置3へ送信される送信データには、操作データ(端末操作データ)、画像データ、および音声データが含まれる。なお、拡張コネクタ58を介して端末装置7に他の装置が接続される場合には、当該他の装置から受け取ったデータが上記送信データにさらに含まれていてもよい。また、赤外線通信モジュール72は、他の装置との間で例えばIRDAの規格に従った赤外線通信を行う。コーデックLSI66は、赤外線通信によって受信したデータを、必要に応じて上記送信データに含めてゲーム装置3へ送信してもよい。   As described above, the transmission data transmitted from the terminal device 7 to the game apparatus 3 includes operation data (terminal operation data), image data, and audio data. When another device is connected to the terminal device 7 via the extension connector 58, the data received from the other device may be further included in the transmission data. In addition, the infrared communication module 72 performs infrared communication with other devices in accordance with, for example, the IRDA standard. The codec LSI 66 may include the data received by infrared communication in the transmission data as necessary and transmit the data to the game apparatus 3.

また、上述のように、ゲーム装置3から端末装置7へは、圧縮された画像データおよび音声データが送信される。これらのデータはアンテナ71および無線モジュール70を介してコーデックLSI66に受信される。コーデックLSI66は、受信した画像データおよび音声データを伸張する。伸張された画像データはLCD51へ出力され、画像がLCD51に表示される。また、伸張された音声データはサウンドIC68へ出力され、サウンドIC68はスピーカ67から音を出力させる。   Further, as described above, compressed image data and audio data are transmitted from the game apparatus 3 to the terminal apparatus 7. These data are received by the codec LSI 66 via the antenna 71 and the wireless module 70. The codec LSI 66 decompresses the received image data and audio data. The expanded image data is output to the LCD 51, and the image is displayed on the LCD 51. The expanded audio data is output to the sound IC 68, and the sound IC 68 outputs sound from the speaker 67.

また、ゲーム装置3から受信されるデータに制御データが含まれる場合、コーデックLSI66およびUIコントローラ65は、制御データに従った制御指示を各部に行う。上述のように、制御データは、端末装置7が備える各構成要素(本実施形態では、カメラ56、タッチパネルコントローラ61、マーカ部55、各センサ62〜64、および赤外線通信モジュール72)に対する制御指示を表すデータである。本実施形態では、制御データが表す制御指示としては、上記各構成要素を動作させたり、動作を休止(停止)させたりする指示が考えられる。すなわち、ゲームで使用しない構成要素については電力消費を抑えるために休止させてもよく、その場合、端末装置7からゲーム装置3へ送信される送信データには、休止した構成要素からのデータが含まれないようにする。なお、マーカ部55は赤外LEDであるので、制御は単に電力の供給のON/OFFでよい。   When the control data is included in the data received from the game apparatus 3, the codec LSI 66 and the UI controller 65 issue a control instruction to each unit according to the control data. As described above, the control data is a control instruction for each component (in this embodiment, the camera 56, the touch panel controller 61, the marker unit 55, the sensors 62 to 64, and the infrared communication module 72) included in the terminal device 7. It is data to represent. In the present embodiment, as the control instruction represented by the control data, an instruction to operate each of the above components or to stop (stop) the operation can be considered. That is, components that are not used in the game may be paused in order to reduce power consumption. In that case, the transmission data transmitted from the terminal device 7 to the game device 3 includes data from the paused components. Do not let it. In addition, since the marker part 55 is infrared LED, control may just be ON / OFF of supply of electric power.

以上のように、端末装置7は、タッチパネル52、アナログスティック53、および操作ボタン54といった操作手段を備えるが、他の実施形態においては、これらの操作手段に代えて、または、これらの操作手段とともに、他の操作手段を備える構成であってもよい。   As described above, the terminal device 7 includes operation means such as the touch panel 52, the analog stick 53, and the operation button 54. However, in other embodiments, instead of these operation means or together with these operation means. The configuration may include other operation means.

また、端末装置7は、端末装置7の動き(位置や姿勢、あるいは、位置や姿勢の変化を含む)を算出するためのセンサとして、磁気センサ62、加速度センサ63、およびジャイロセンサ64を備えるが、他の実施形態においては、これらのセンサのうち1つまたは2つのみを備える構成であってもよい。また、他の実施形態においては、これらのセンサに代えて、または、これらのセンサとともに、他のセンサを備える構成であってもよい。   Further, the terminal device 7 includes a magnetic sensor 62, an acceleration sensor 63, and a gyro sensor 64 as sensors for calculating the movement of the terminal device 7 (including changes in position and orientation, or position and orientation). In other embodiments, the configuration may include only one or two of these sensors. Moreover, in other embodiment, it may replace with these sensors or the structure provided with another sensor with these sensors may be sufficient.

また、端末装置7は、カメラ56およびマイク69を備える構成であるが、他の実施形態においては、カメラ56およびマイク69を備えていなくてもよく、また、いずれか一方のみを備えていてもよい。   Moreover, although the terminal device 7 is a structure provided with the camera 56 and the microphone 69, in other embodiment, it does not need to be provided with the camera 56 and the microphone 69, and may be provided only with either one. Good.

また、端末装置7は、端末装置7とコントローラ5との位置関係(コントローラ5から見た端末装置7の位置および/または姿勢等)を算出するための構成としてマーカ部55を備える構成であるが、他の実施形態ではマーカ部55を備えていない構成としてもよい。また、他の実施形態では、端末装置7は、上記位置関係を算出するための構成として他の手段を備えていてもよい。例えば、他の実施形態においては、コントローラ5がマーカ部を備え、端末装置7が撮像素子を備える構成としてもよい。さらにこの場合、マーカ装置6は赤外LEDに代えて、撮像素子を備える構成としてもよい。   Further, the terminal device 7 is configured to include the marker unit 55 as a configuration for calculating the positional relationship between the terminal device 7 and the controller 5 (the position and / or orientation of the terminal device 7 viewed from the controller 5). In other embodiments, the marker unit 55 may not be provided. In another embodiment, the terminal device 7 may include other means as a configuration for calculating the positional relationship. For example, in another embodiment, the controller 5 may include a marker unit, and the terminal device 7 may include an image sensor. Furthermore, in this case, the marker device 6 may be configured to include an imaging element instead of the infrared LED.

[5.ゲーム処理]
次に、本ゲームシステムにおいて実行されるゲーム処理の詳細を説明する。まず、ゲーム処理において用いられる各種データについて説明する。図11は、ゲーム処理において用いられる各種データを示す図である。図11において、ゲーム装置3のメインメモリ(外部メインメモリ12または内部メインメモリ11e)に記憶される主なデータを示す図である。図11に示すように、ゲーム装置3のメインメモリには、ゲームプログラム90、受信データ91、および処理用データ106が記憶される。なお、メインメモリには、図11に示すデータの他、ゲームに登場する各種オブジェクトの画像データやゲームに使用される音声データ等、ゲームに必要なデータが記憶される。
[5. Game processing]
Next, details of the game process executed in this game system will be described. First, various data used in the game process will be described. FIG. 11 is a diagram showing various data used in the game process. In FIG. 11, it is a figure which shows the main data memorize | stored in the main memory (the external main memory 12 or the internal main memory 11e) of the game device 3. As shown in FIG. 11, a game program 90, received data 91, and processing data 106 are stored in the main memory of the game apparatus 3. In addition to the data shown in FIG. 11, the main memory stores data necessary for the game such as image data of various objects appearing in the game and sound data used for the game.

ゲームプログラム90は、ゲーム装置3に電源が投入された後の適宜のタイミングで光ディスク4からその一部または全部が読み込まれてメインメモリに記憶される。なお、ゲームプログラム90は、光ディスク4に代えて、フラッシュメモリ17やゲーム装置3の外部装置から(例えばインターネットを介して)取得されてもよい。また、ゲームプログラム90に含まれる一部(例えば、コントローラ5および/または端末装置7の姿勢を算出するためのプログラム)については、ゲーム装置3内に予め記憶されていてもよい。   A part or all of the game program 90 is read from the optical disk 4 and stored in the main memory at an appropriate timing after the game apparatus 3 is turned on. The game program 90 may be obtained from the flash memory 17 or an external device of the game device 3 (for example, via the Internet) instead of the optical disc 4. Further, a part of the game program 90 (for example, a program for calculating the attitude of the controller 5 and / or the terminal device 7) may be stored in advance in the game apparatus 3.

受信データ91は、コントローラ5および端末装置7から受信される各種のデータである。受信データ91は、コントローラ操作データ92、端末操作データ97、カメラ画像データ104、および、マイク音データ105を含む。コントローラ5が複数接続される場合には、コントローラ操作データ92も複数になる。端末装置7が複数接続される場合には、端末操作データ97、カメラ画像データ104、および、マイク音データ105も複数になる。   The reception data 91 is various data received from the controller 5 and the terminal device 7. The reception data 91 includes controller operation data 92, terminal operation data 97, camera image data 104, and microphone sound data 105. When a plurality of controllers 5 are connected, the controller operation data 92 is also a plurality. When a plurality of terminal devices 7 are connected, the terminal operation data 97, the camera image data 104, and the microphone sound data 105 are also a plurality.

コントローラ操作データ92は、コントローラ5に対するユーザ(プレイヤ)の操作を表すデータである。コントローラ操作データ92は、コントローラ5から送信されてゲーム装置3において取得され、メインメモリに記憶される。コントローラ操作データ92は、第1操作ボタンデータ93、第1加速度データ94、第1角速度データ95、およびマーカ座標データ96を含む。なお、メインメモリには、最新の(最後に取得された)ものから順に所定個数のコントローラ操作データが記憶されてもよい。   The controller operation data 92 is data representing a user (player) operation on the controller 5. The controller operation data 92 is transmitted from the controller 5, acquired by the game apparatus 3, and stored in the main memory. The controller operation data 92 includes first operation button data 93, first acceleration data 94, first angular velocity data 95, and marker coordinate data 96. Note that a predetermined number of controller operation data may be stored in the main memory in order from the latest (obtained last).

第1操作ボタンデータ93は、コントローラ5に設けられる各操作ボタン32a〜32iに対する入力状態を表すデータである。具体的には、第1操作ボタンデータ93は、各操作ボタン32a〜32iが押下されているか否かを表す。   The first operation button data 93 is data representing an input state for each of the operation buttons 32 a to 32 i provided on the controller 5. Specifically, the first operation button data 93 indicates whether or not each of the operation buttons 32a to 32i is pressed.

第1加速度データ94は、コントローラ5の加速度センサ37によって検出された加速度(加速度ベクトル)を表すデータである。ここでは、第1加速度データ94は、図3に示すXYZの3軸の方向に関する加速度を各成分とする3次元の加速度を表すものであるが、他の実施形態においては、任意の1以上の方向に関する加速度を表すものであればよい。   The first acceleration data 94 is data representing the acceleration (acceleration vector) detected by the acceleration sensor 37 of the controller 5. Here, the first acceleration data 94 represents three-dimensional acceleration having each component of acceleration in the directions of the three axes of XYZ shown in FIG. 3, but in other embodiments, any one or more arbitrary acceleration data 94 It only has to represent acceleration in the direction.

第1角速度データ95は、コントローラ5におけるジャイロセンサ48によって検出された角速度を表すデータである。ここでは、第1角速度データ95は、図3に示すXYZの3軸回りのそれぞれの角速度を表すものであるが、他の実施形態においては、任意の1軸以上の軸回り角速度を表すものであればよい。   The first angular velocity data 95 is data representing the angular velocity detected by the gyro sensor 48 in the controller 5. Here, the first angular velocity data 95 represents the angular velocities around the three axes of XYZ shown in FIG. 3, but in other embodiments, represents the angular velocities around any one axis or more. I just need it.

マーカ座標データ96、撮像情報演算部35の画像処理回路41によって算出される座標、すなわち上記マーカ座標を表すデータである。マーカ座標は、撮像画像に対応する平面上の位置を表すための2次元座標系で表現され、マーカ座標データ96は、当該2次元座標系における座標値を表す。   Marker coordinate data 96, coordinates calculated by the image processing circuit 41 of the imaging information calculation unit 35, that is, data representing the marker coordinates. The marker coordinates are expressed in a two-dimensional coordinate system for representing a position on a plane corresponding to the captured image, and the marker coordinate data 96 represents coordinate values in the two-dimensional coordinate system.

なお、コントローラ操作データ92は、コントローラ5を操作するユーザの操作を表すものであればよく、上記各データ93〜96の一部のみを含むものであってもよい。また、コントローラ5が他の入力手段(例えば、タッチパネルやアナログスティック等)を有する場合には、コントローラ操作データ92は、当該他の入力手段に対する操作を表すデータを含んでいてもよい。なお、本実施形態のようにコントローラ5自体の動きをゲーム操作として用いる場合には、コントローラ操作データ92は、第1加速度データ94、第1角速度データ95、またはマーカ座標データ96のように、コントローラ5自体の動きに応じて値が変化するデータを含むようにする。   The controller operation data 92 only needs to represent the operation of the user who operates the controller 5, and may include only a part of the data 93 to 96. Further, when the controller 5 has other input means (for example, a touch panel, an analog stick, etc.), the controller operation data 92 may include data representing an operation on the other input means. Note that when the movement of the controller 5 itself is used as a game operation as in the present embodiment, the controller operation data 92 is a controller such as the first acceleration data 94, the first angular velocity data 95, or the marker coordinate data 96. 5 includes data whose value changes in accordance with the movement of itself.

端末操作データ97は、端末装置7に対するユーザの操作を表すデータである。端末操作データ97は、端末装置7から送信されてゲーム装置3において取得され、メインメモリに記憶される。端末操作データ97は、第2操作ボタンデータ98、スティックデータ99、タッチ位置データ100、第2加速度データ101、第2角速度データ102、および方位データを含む。なお、メインメモリには、最新の(最後に取得された)ものから順に所定個数の端末操作データが記憶されてもよい。   The terminal operation data 97 is data representing a user operation on the terminal device 7. The terminal operation data 97 is transmitted from the terminal device 7, acquired by the game device 3, and stored in the main memory. The terminal operation data 97 includes second operation button data 98, stick data 99, touch position data 100, second acceleration data 101, second angular velocity data 102, and direction data. The main memory may store a predetermined number of terminal operation data in order from the latest (last acquired).

第2操作ボタンデータ98は、端末装置7に設けられる各操作ボタン54A〜54Lに対する入力状態を表すデータである。具体的には、第2操作ボタンデータ98は、各操作ボタン54A〜54Lが押下されているか否かを表す。   The second operation button data 98 is data representing an input state for each of the operation buttons 54 </ b> A to 54 </ b> L provided on the terminal device 7. Specifically, the second operation button data 98 indicates whether or not each of the operation buttons 54A to 54L is pressed.

スティックデータ99は、アナログスティック53(アナログスティック53Aおよび53B)のスティック部がスライドした(または傾倒した)方向および量を表すデータである。上記方向および量は、例えば2次元座標や2次元ベクトルとして表されてもよい。   The stick data 99 is data representing the direction and amount in which the stick portion of the analog stick 53 (analog sticks 53A and 53B) has slid (or tilted). The direction and amount may be expressed as, for example, a two-dimensional coordinate or a two-dimensional vector.

タッチ位置データ100は、タッチパネル52の入力面において入力が行われた位置(タッチ位置)を表すデータである。本実施形態では、タッチ位置データ100は、上記入力面上の位置を示すための2次元座標系の座標値を表す。なお、タッチパネル52がマルチタッチ方式である場合には、タッチ位置データ100は複数のタッチ位置を表すこともある。   The touch position data 100 is data representing a position (touch position) where an input is performed on the input surface of the touch panel 52. In the present embodiment, the touch position data 100 represents coordinate values of a two-dimensional coordinate system for indicating the position on the input surface. When the touch panel 52 is a multi-touch method, the touch position data 100 may represent a plurality of touch positions.

第2加速度データ101は、加速度センサ63によって検出された加速度(加速度ベクトル)を表すデータである。本実施形態では、第2加速度データ101は、図8に示すxyzの3軸の方向に関する加速度を各成分とする3次元の加速度を表すものであるが、他の実施形態においては、任意の1以上の方向に関する加速度を表すものであればよい。   The second acceleration data 101 is data representing the acceleration (acceleration vector) detected by the acceleration sensor 63. In the present embodiment, the second acceleration data 101 represents a three-dimensional acceleration whose components are the accelerations in the directions of the three axes of xyz shown in FIG. 8. Anything can be used as long as it represents acceleration in the above directions.

第2角速度データ102は、ジャイロセンサ64によって検出された角速度を表すデータである。本実施形態では、第2角速度データ102は、図8に示すxyzの3軸回りのそれぞれの角速度を表すものであるが、他の実施形態においては、任意の1軸以上の軸回り角速度を表すものであればよい。   The second angular velocity data 102 is data representing the angular velocity detected by the gyro sensor 64. In the present embodiment, the second angular velocity data 102 represents the angular velocities around the three axes xyz shown in FIG. 8, but in other embodiments, represents the angular velocities around any one or more axes. Anything is acceptable.

方位データ103は、磁気センサ62によって検出された方位を表すデータである。本実施形態では、方位データ103は、端末装置7を基準として所定の方位(例えば北)の向きを表す。ただし、地磁気以外の磁界が発生している場所においては、方位データ103は厳密には絶対的な方位(北等)を示さないことになるが、その場所における磁界の方向に対する端末装置7の相対的な方向が示されるので、そのような場合であっても端末装置7の姿勢変化を算出することが可能である。   The azimuth data 103 is data representing the azimuth detected by the magnetic sensor 62. In the present embodiment, the azimuth data 103 represents the direction of a predetermined azimuth (for example, north) with reference to the terminal device 7. However, in a place where a magnetic field other than geomagnetism is generated, the azimuth data 103 does not strictly indicate an absolute azimuth (north, etc.), but the relative position of the terminal device 7 with respect to the direction of the magnetic field at that place. Therefore, it is possible to calculate the attitude change of the terminal device 7 even in such a case.

なお、端末操作データ97は、端末装置7を操作するユーザの操作を表すものであればよく、上記各データ98〜103のいずれか1つのみを含むものであってもよい。また、端末装置7が他の入力手段(例えば、タッチパッドや、コントローラ5の撮像手段等)を有する場合には、端末操作データ97は、当該他の入力手段に対する操作を表すデータを含んでいてもよい。なお、本実施形態のように端末装置7自体の動きをゲーム操作として用いる場合には、端末操作データ97は、第2加速度データ101、第2角速度データ102、または方位データ103のように、端末装置7自体の動きに応じて値が変化するデータを含むようにする。   Note that the terminal operation data 97 only needs to represent the operation of the user who operates the terminal device 7, and may include only one of the data 98 to 103. Further, when the terminal device 7 has other input means (for example, a touch pad or an imaging means of the controller 5), the terminal operation data 97 includes data representing an operation on the other input means. Also good. When the movement of the terminal device 7 itself is used as a game operation as in this embodiment, the terminal operation data 97 is the terminal acceleration data 101, the second angular velocity data 102, or the azimuth data 103, as in the terminal operation data 97. Data whose value changes according to the movement of the device 7 itself is included.

カメラ画像データ104は、端末装置7のカメラ56によって撮像された画像(カメラ画像)を表すデータである。カメラ画像データ104は、端末装置7からの圧縮された画像データがコーデックLSI27によって伸張された画像データであり、入出力プロセッサ11aによってメインメモリに記憶される。なお、メインメモリには、最新の(最後に取得された)ものから順に所定個数のカメラ画像データが記憶されてもよい。   The camera image data 104 is data representing an image (camera image) captured by the camera 56 of the terminal device 7. The camera image data 104 is image data obtained by decompressing the compressed image data from the terminal device 7 by the codec LSI 27, and is stored in the main memory by the input / output processor 11a. The main memory may store a predetermined number of pieces of camera image data in order from the latest (last acquired).

マイク音データ105は、端末装置7のマイク69によって検出された音声(マイク音)を表すデータである。マイク音データ105は、端末装置7から送信されてくる圧縮された音声データがコーデックLSI27によって伸張された音声データであり、入出力プロセッサ11aによってメインメモリに記憶される。   The microphone sound data 105 is data representing sound (microphone sound) detected by the microphone 69 of the terminal device 7. The microphone sound data 105 is sound data obtained by decompressing the compressed sound data transmitted from the terminal device 7 by the codec LSI 27, and is stored in the main memory by the input / output processor 11a.

処理用データ106は、後述するゲーム処理(図12)において用いられるデータである。処理用データ106は、制御データ107、コントローラ姿勢データ108、端末姿勢データ109、画像認識データ110、および音声認識データ111を含む。なお、図11に示すデータの他、処理用データ106は、ゲームに登場する各種オブジェクトに設定される各種パラメータを表すデータ等、ゲーム処理において用いられる各種データを含む。   The processing data 106 is data used in a game process (FIG. 12) described later. The processing data 106 includes control data 107, controller attitude data 108, terminal attitude data 109, image recognition data 110, and voice recognition data 111. In addition to the data shown in FIG. 11, the processing data 106 includes various data used in the game process, such as data representing various parameters set for various objects appearing in the game.

制御データ107は、端末装置7が備える構成要素に対する制御指示を表すデータである。制御データ107は、例えば、マーカ部55の点灯を制御する指示や、カメラ56の撮像を制御する指示等を表す。制御データ107は、適宜のタイミングで端末装置7へ送信される。   The control data 107 is data representing a control instruction for the components included in the terminal device 7. The control data 107 represents, for example, an instruction for controlling lighting of the marker unit 55, an instruction for controlling imaging of the camera 56, and the like. The control data 107 is transmitted to the terminal device 7 at an appropriate timing.

コントローラ姿勢データ108は、コントローラ5の姿勢を表すデータである。本実施形態では、コントローラ姿勢データ108は、上記コントローラ操作データ92に含まれる第1加速度データ94、第1角速度データ95、およびマーカ座標データ96に基づいて算出される。コントローラ姿勢データ108の算出方法についてはステップS23で後述する。   The controller attitude data 108 is data representing the attitude of the controller 5. In the present embodiment, the controller attitude data 108 is calculated based on the first acceleration data 94, the first angular velocity data 95, and the marker coordinate data 96 included in the controller operation data 92. A method for calculating the controller attitude data 108 will be described later in step S23.

端末姿勢データ109は、端末装置7の姿勢を表すデータである。本実施形態では、端末姿勢データ109は、上記端末操作データ97に含まれる第2加速度データ101、第2角速度データ102、および方位データ103に基づいて算出される。端末姿勢データ109の算出方法についてはステップS24で後述する。   The terminal attitude data 109 is data representing the attitude of the terminal device 7. In the present embodiment, the terminal attitude data 109 is calculated based on the second acceleration data 101, the second angular velocity data 102, and the azimuth data 103 included in the terminal operation data 97. A method of calculating the terminal attitude data 109 will be described later in step S24.

画像認識データ110は、上記カメラ画像に対する所定の画像認識処理の結果を表すデータである。この画像認識処理は、カメラ画像から何らかの特徴を検知してその結果を出力するものであればどのような処理であってもよく、例えば、カメラ画像から所定の対象(例えば、ユーザの顔やマーカ等)を抽出し、抽出した対象に関する情報を算出する処理であってもよい。   The image recognition data 110 is data representing the result of a predetermined image recognition process for the camera image. This image recognition process may be any process as long as it detects some feature from the camera image and outputs the result. And the like, and the information about the extracted target may be calculated.

音声認識データ111は、上記マイク音声に対する所定の音声認識処理の結果を表すデータである。この音声認識処理は、マイク音声から何らかの特徴を検知してその結果を出力するものであればどのような処理であってもよく、例えば、ユーザの言葉を検知する処理であってもよいし、単に音量を出力する処理であってもよい。   The voice recognition data 111 is data representing a result of a predetermined voice recognition process for the microphone voice. This voice recognition process may be any process that detects some feature from the microphone voice and outputs the result, for example, a process that detects the user's words, It may be a process of simply outputting the volume.

次に、図12を参照して、ゲーム装置3において行われるゲーム処理の詳細を説明する。図12は、ゲーム装置3において実行されるゲーム処理の流れを示すメインフローチャートである。ゲーム装置3の電源が投入されると、ゲーム装置3のCPU10は、図示しないブートROMに記憶されている起動プログラムを実行し、これによってメインメモリ等の各ユニットが初期化される。そして、光ディスク4に記憶されたゲームプログラムがメインメモリに読み込まれ、CPU10によって当該ゲームプログラムの実行が開始される。なお、ゲーム装置3においては、電源投入後に光ディスク4に記憶されたゲームプログラムがすぐに実行される構成であってもよいし、電源投入後にまず所定のメニュー画面を表示する内蔵プログラムが実行され、その後ユーザによってゲームの開始が指示されたときに光ディスク4に記憶されたゲームプログラムが実行される構成であってもよい。図12に示すフローチャートは、以上の処理が完了した後に行われる処理を示すフローチャートである。   Next, with reference to FIG. 12, the details of the game process performed in the game apparatus 3 will be described. FIG. 12 is a main flowchart showing a flow of game processing executed in the game apparatus 3. When the power of the game apparatus 3 is turned on, the CPU 10 of the game apparatus 3 executes a startup program stored in a boot ROM (not shown), whereby each unit such as the main memory is initialized. Then, the game program stored in the optical disc 4 is read into the main memory, and the CPU 10 starts executing the game program. The game apparatus 3 may be configured such that the game program stored on the optical disc 4 is immediately executed after the power is turned on, or a built-in program that displays a predetermined menu screen is first executed after the power is turned on. Thereafter, the game program stored on the optical disc 4 may be executed when the user instructs the start of the game. The flowchart shown in FIG. 12 is a flowchart showing processing performed after the above processing is completed.

なお、図12に示すフローチャートの各ステップの処理は、単なる一例に過ぎず、同様の結果が得られるのであれば、各ステップの処理順序を入れ替えてもよい。また、変数の値や、判断ステップで利用される閾値も、単なる一例に過ぎず、必要に応じて他の値を採用してもよい。また、本実施形態では、上記フローチャートの各ステップの処理をCPU10が実行するものとして説明するが、CPU10以外のプロセッサや専用回路が上記各ステップの一部のステップの処理を実行するようにしてもよい。   Note that the processing of each step in the flowchart shown in FIG. 12 is merely an example, and the processing order of each step may be changed as long as a similar result is obtained. Moreover, the value of the variable and the threshold value used in the determination step are merely examples, and other values may be adopted as necessary. In the present embodiment, the processing of each step of the flowchart is described as being executed by the CPU 10, but a processor or a dedicated circuit other than the CPU 10 may execute processing of a part of the steps. Good.

まずステップS1において、CPU10は初期処理を実行する。初期処理は、例えば、仮想のゲーム空間を構築し、ゲーム空間に登場する各オブジェクトを初期位置に配置したり、ゲーム処理で用いる各種パラメータの初期値を設定したりする処理である。   First, in step S1, the CPU 10 executes an initial process. The initial process is, for example, a process of constructing a virtual game space, placing each object appearing in the game space at an initial position, and setting initial values of various parameters used in the game process.

また、本実施形態においては、初期処理において、CPU10は、ゲームプログラムの種類に基づいてマーカ装置6およびマーカ部55の点灯を制御する。ここで、ゲームシステム1は、コントローラ5の撮像手段(撮像情報演算部35)の撮像対象として、マーカ装置6と端末装置7のマーカ部55との2つを有している。ゲームの内容(ゲームプログラムの種類)によっては、マーカ装置6とマーカ部55のうちいずれかが使用されたり、あるいは、両方が使用されたりする。なお、ゲームプログラム90には、マーカ装置6およびマーカ部55のそれぞれについて点灯させるか否かを表すデータ含まれている。CPU10は、当該データを読み出して点灯させるか否かを判断する。そして、マーカ装置6および/またはマーカ部55を点灯させる場合には以下の処理を実行する。   In the present embodiment, in the initial process, the CPU 10 controls the lighting of the marker device 6 and the marker unit 55 based on the type of game program. Here, the game system 1 has two of the marker device 6 and the marker unit 55 of the terminal device 7 as imaging targets of the imaging means (imaging information calculation unit 35) of the controller 5. Depending on the content of the game (type of game program), either the marker device 6 or the marker unit 55 may be used, or both may be used. The game program 90 includes data indicating whether or not each of the marker device 6 and the marker unit 55 is lit. The CPU 10 determines whether or not the data is read and lit. Then, when the marker device 6 and / or the marker unit 55 is turned on, the following processing is executed.

すなわち、マーカ装置6を点灯する場合、CPU10は、マーカ装置6が備える各赤外LEDを点灯させる旨の制御信号をマーカ装置6へ送信する。この制御信号の送信は単に電力を供給するというだけのことであってもよい。これに応じてマーカ装置6の各赤外LEDが点灯される。一方、マーカ部55を点灯する場合、CPU10は、マーカ部55を点灯する指示を表す制御データを生成してメインメモリに記憶する。生成された制御データは、後述するステップS10において端末装置7へ送信される。端末装置7の無線モジュール70において受信された制御データは、コーデックLSI66を介してUIコントローラ65へ送られ、UIコントローラ65はマーカ部55に点灯する指示を行う。これによってマーカ部55の赤外LEDが点灯する。なお、上記においてはマーカ装置6およびマーカ部55を点灯させる場合を説明したが、マーカ装置6およびマーカ部55の消灯は、点灯する場合と同様の処理によって行うことができる。   That is, when lighting the marker device 6, the CPU 10 transmits a control signal to the marker device 6 to light each infrared LED included in the marker device 6. The transmission of the control signal may simply be to supply power. In response to this, each infrared LED of the marker device 6 is turned on. On the other hand, when the marker unit 55 is turned on, the CPU 10 generates control data representing an instruction to turn on the marker unit 55 and stores it in the main memory. The generated control data is transmitted to the terminal device 7 in step S10 described later. Control data received by the wireless module 70 of the terminal device 7 is sent to the UI controller 65 via the codec LSI 66, and the UI controller 65 instructs the marker unit 55 to turn on. As a result, the infrared LED of the marker unit 55 is turned on. Although the case where the marker device 6 and the marker unit 55 are turned on has been described above, the marker device 6 and the marker unit 55 can be turned off by the same processing as when the marker device 6 and the marker unit 55 are turned on.

以上のステップS1の次にステップS2の処理が実行される。以降、ステップS2〜S11の一連の処理からなる処理ループが所定時間(1フレーム時間)に1回の割合で繰り返し実行される。   Following step S1, the process of step S2 is executed. Thereafter, a processing loop composed of a series of steps S2 to S11 is repeatedly executed at a rate of once per predetermined time (one frame time).

ステップS2において、CPU10は、コントローラ5から送信されてくるコントローラ操作データを取得する。コントローラ5はコントローラ操作データをゲーム装置3へ繰り返し送信するので、ゲーム装置3においては、コントローラ通信モジュール19が当該コントローラ操作データを逐次受信し、受信されたコントローラ操作データが入出力プロセッサ11aによってメインメモリに逐次記憶される。送受信の間隔はゲームの処理時間よりも短い方が好ましく、例えば200分の1秒である。ステップS2においては、CPU10は、最新のコントローラ操作データ92をメインメモリから読み出す。ステップS2の次にステップS3の処理が実行される。   In step S <b> 2, the CPU 10 acquires controller operation data transmitted from the controller 5. Since the controller 5 repeatedly transmits the controller operation data to the game apparatus 3, in the game apparatus 3, the controller communication module 19 sequentially receives the controller operation data, and the received controller operation data is stored in the main memory by the input / output processor 11a. Are sequentially stored. The transmission / reception interval is preferably shorter than the game processing time, for example, 1/200 second. In step S2, the CPU 10 reads the latest controller operation data 92 from the main memory. Following step S2, the process of step S3 is executed.

ステップS3において、CPU10は、端末装置7から送信されてくる各種のデータを取得する。端末装置7は、端末操作データとカメラ画像データとマイク音データとをゲーム装置3へ繰り返し送信するので、ゲーム装置3はこれらのデータを逐次受信する。ゲーム装置3においては、端末通信モジュール28がこれらのデータを逐次受信し、カメラ画像データおよびマイク音データについてはコーデックLSI27によって伸張処理が逐次施される。そして、入出力プロセッサ11aが端末操作データとカメラ画像データとマイク音データとをメインメモリに逐次記憶する。ステップS3においては、CPU10は、最新の端末操作データ97をメインメモリから読み出す。ステップS3の次にステップS4の処理が実行される。   In step S <b> 3, the CPU 10 acquires various data transmitted from the terminal device 7. Since the terminal device 7 repeatedly transmits terminal operation data, camera image data, and microphone sound data to the game device 3, the game device 3 sequentially receives these data. In the game apparatus 3, the terminal communication module 28 sequentially receives these data, and the camera image data and the microphone sound data are sequentially decompressed by the codec LSI 27. Then, the input / output processor 11a sequentially stores terminal operation data, camera image data, and microphone sound data in the main memory. In step S3, the CPU 10 reads the latest terminal operation data 97 from the main memory. Following step S3, the process of step S4 is executed.

ステップS4において、CPU10はゲーム制御処理を実行する。ゲーム制御処理は、ユーザによるゲーム操作に従ってゲーム空間内のオブジェクトを動作させる処理等を実行し、ゲームを進行させる処理である。本実施形態においては、ユーザは、コントローラ5および/または端末装置7を用いて種々のゲームを行うことが可能である。以下、図13を参照して、ゲーム制御処理について説明する。   In step S4, the CPU 10 executes a game control process. The game control process is a process of executing a process of moving an object in the game space in accordance with a game operation by the user and advancing the game. In the present embodiment, the user can play various games using the controller 5 and / or the terminal device 7. Hereinafter, the game control process will be described with reference to FIG.

図13は、ゲーム制御処理の詳細な流れを示すフローチャートである。なお、図13に示す一連の処理は、コントローラ5および端末装置7を操作装置として用いる場合において実行され得る種々の処理であるが、各処理の必ずしも全てが実行される必要はなく、ゲームの種類や内容によっては一部の処理のみが実行されてもよい。   FIG. 13 is a flowchart showing a detailed flow of the game control process. Note that the series of processes shown in FIG. 13 are various processes that can be executed when the controller 5 and the terminal device 7 are used as operating devices, but not all of the processes need to be executed. Depending on the content, only a part of the processing may be executed.

ゲーム制御処理においては、まずステップS21において、CPU10は、使用するマーカを変更するか否かを判定する。上述のように、本実施形態においては、ゲーム処理の開始時(ステップS1)において、マーカ装置6およびマーカ部55の点灯を制御する処理が実行される。ここで、ゲームによっては、ゲームの途中でマーカ装置6およびマーカ部55のうちで使用する(点灯する)対象を変更する場合も考えられる。また、ゲームによってはマーカ装置6およびマーカ部55の両方を使用することも考えられるが、両方を点灯させると、一方のマーカを他方のマーカと誤検出してしまうおそれがある。そのため、ゲーム中において、いずれか一方のみを点灯させるように点灯を切り替えて使用することが好ましい場合もある。ステップS21の処理は、かかる場合を考慮し、点灯する対象をゲーム途中で変更するか否かを判定する処理である。   In the game control process, first, in step S21, the CPU 10 determines whether or not to change the marker to be used. As described above, in the present embodiment, processing for controlling lighting of the marker device 6 and the marker unit 55 is executed at the start of the game processing (step S1). Here, depending on the game, there may be a case where the target to be used (lighted) in the marker device 6 and the marker unit 55 is changed during the game. Moreover, although it is possible to use both the marker apparatus 6 and the marker part 55 depending on a game, when both are lighted, there exists a possibility that one marker may be misdetected with the other marker. Therefore, it may be preferable to switch the lighting so that only one of them is lit during the game. The processing in step S21 is processing for determining whether or not to change the lighting target in the middle of the game in consideration of such a case.

上記ステップS21の判定は、例えば以下の方法で行うことができる。すなわち、CPU10は、ゲーム状況(ゲームのステージや操作対象等)が変化したか否かによって上記判定を行うことができる。ゲーム状況が変化する場合、マーカ装置6の方を向けてコントローラ5を操作する操作方法と、マーカ部55の方を向けてコントローラ5を操作する操作方法との間で、操作方法が変更されることが考えられるからである。また、CPU10は、コントローラ5の姿勢に基づいて上記判定を行うことができる。すなわち、コントローラ5がマーカ装置6の方を向いているか、マーカ部55の方を向いているかによって上記判定を行うことができる。なお、コントローラ5の姿勢は、例えば加速度センサ37やジャイロセンサ48の検出結果に基づいて算出することができる(後述するステップS23参照)。また、CPU10は、ユーザによる変更指示があったか否かによって上記判定を行うこともできる。   The determination in step S21 can be performed, for example, by the following method. That is, the CPU 10 can make the above determination based on whether or not the game situation (game stage, operation target, etc.) has changed. When the game situation changes, the operation method is changed between an operation method in which the controller 5 is operated with the marker device 6 directed and an operation method in which the controller 5 is operated with the marker unit 55 directed. Because it is possible. Further, the CPU 10 can make the above determination based on the attitude of the controller 5. That is, the above determination can be made depending on whether the controller 5 is facing the marker device 6 or the marker unit 55. Note that the attitude of the controller 5 can be calculated based on the detection results of the acceleration sensor 37 and the gyro sensor 48, for example (see step S23 described later). The CPU 10 can also make the above determination based on whether or not there is a change instruction from the user.

上記ステップS21の判定結果が肯定である場合、ステップS22の処理が実行される。一方、上記ステップS21の判定結果が否定である場合、ステップS22の処理がスキップされてステップS23の処理が実行される。   If the determination result of step S21 is affirmative, the process of step S22 is executed. On the other hand, if the determination result of step S21 is negative, the process of step S22 is skipped and the process of step S23 is executed.

ステップS22において、CPU10は、マーカ装置6およびマーカ部55の点灯を制御する。すなわち、マーカ装置6および/またはマーカ部55の点灯状態を変更する。なお、マーカ装置6および/またはマーカ部55を点灯または消灯する具体的な処理は、上記ステップS1の場合と同様に行うことができる。ステップS22の次にステップS23の処理が実行される。   In step S <b> 22, the CPU 10 controls lighting of the marker device 6 and the marker unit 55. That is, the lighting state of the marker device 6 and / or the marker unit 55 is changed. In addition, the specific process which lights or extinguishes the marker apparatus 6 and / or the marker part 55 can be performed similarly to the case of said step S1. Following step S22, the process of step S23 is executed.

以上のように本実施形態によれば、上記ステップS1の処理によって、ゲームプログラムの種類に応じてマーカ装置6およびマーカ部65の発光(点灯)を制御することができるとともに、上記ステップS21およびS22の処理によって、ゲーム状況に応じてマーカ装置6およびマーカ部65の発光(点灯)を制御することができる。   As described above, according to the present embodiment, it is possible to control the light emission (lighting) of the marker device 6 and the marker unit 65 according to the type of the game program by the processing of step S1, and the steps S21 and S22. With this process, the light emission (lighting) of the marker device 6 and the marker unit 65 can be controlled according to the game situation.

ステップS23において、CPU10はコントローラ5の姿勢を算出する。本実施形態では、コントローラ5の姿勢は、第1加速度データ94、第1角速度データ95、およびマーカ座標データ96に基づいて算出される。以下、コントローラ5の姿勢の算出方法について説明する。   In step S <b> 23, the CPU 10 calculates the attitude of the controller 5. In the present embodiment, the attitude of the controller 5 is calculated based on the first acceleration data 94, the first angular velocity data 95, and the marker coordinate data 96. Hereinafter, a method for calculating the attitude of the controller 5 will be described.

まず、CPU10は、メインメモリに記憶されている第1角速度データ95に基づいてコントローラ5の姿勢を算出する。コントローラ5の姿勢を角速度から算出する方法はどのような方法であってもよいが、当該姿勢は、前回の姿勢(前回に算出された姿勢)と、今回の角速度(今回の処理ループにおけるステップS2で取得された角速度)とを用いて算出される。具体的には、CPU10は、前回の姿勢を今回の角速度で単位時間分だけ回転させることによって姿勢を算出する。なお、前回の姿勢は、メインメモリに記憶されているコントローラ姿勢データ108により表され、今回の角速度は、メインメモリに記憶されている第1角速度データ95により表される。したがって、CPU10は、メインメモリからコントローラ姿勢データ108および第1角速度データ95を読み出して、コントローラ5の姿勢を算出する。以上のようにして算出された「角速度に基づく姿勢」を表すデータはメインメモリに記憶される。   First, the CPU 10 calculates the attitude of the controller 5 based on the first angular velocity data 95 stored in the main memory. Any method may be used to calculate the attitude of the controller 5 from the angular velocity. The attitude is determined based on the previous attitude (the attitude calculated last time) and the current angular speed (step S2 in the current processing loop). (Angular velocity acquired in step 1). Specifically, the CPU 10 calculates the posture by rotating the previous posture by a unit time at the current angular velocity. The previous posture is represented by the controller posture data 108 stored in the main memory, and the current angular velocity is represented by the first angular velocity data 95 stored in the main memory. Therefore, the CPU 10 reads the controller attitude data 108 and the first angular velocity data 95 from the main memory, and calculates the attitude of the controller 5. Data representing the “posture based on the angular velocity” calculated as described above is stored in the main memory.

なお、角速度から姿勢を算出する場合、初期姿勢を定めておくのがよい。つまり、コントローラ5の姿勢を角速度から算出する場合には、CPU10は、最初にコントローラ5の初期姿勢を算出しておく。コントローラ5の初期姿勢は、加速度データに基づいて算出されてもよいし、コントローラ5を特定の姿勢にした状態でプレイヤに所定の操作を行わせることで、所定の操作が行われた時点における特定の姿勢を初期姿勢として用いるようにしてもよい。なお、空間における所定方向を基準とした絶対的な姿勢としてコントローラ5の姿勢を算出する場合には上記初期姿勢を算出することが良いが、例えばゲーム開始時点におけるコントローラ5の姿勢を基準とした相対的な姿勢としてコントローラ5の姿勢を算出する場合には、上記初期姿勢は算出されなくても良い。   When calculating the attitude from the angular velocity, it is preferable to determine the initial attitude. That is, when calculating the attitude of the controller 5 from the angular velocity, the CPU 10 first calculates the initial attitude of the controller 5. The initial posture of the controller 5 may be calculated based on the acceleration data, or specified when the predetermined operation is performed by causing the player to perform a predetermined operation with the controller 5 in a specific posture. May be used as the initial posture. In addition, when calculating the attitude of the controller 5 as an absolute attitude based on a predetermined direction in space, it is preferable to calculate the initial attitude, but for example, relative to the attitude of the controller 5 at the start of the game. When calculating the attitude of the controller 5 as a general attitude, the initial attitude may not be calculated.

次に、CPU10は、角速度に基づいて算出したコントローラ5の姿勢を、第1加速度データ94を用いて補正する。具体的には、CPU10はまず、メインメモリから第1加速度データ94を読み出して、第1加速度データ94に基づいてコントローラ5の姿勢を算出する。ここで、コントローラ5がほぼ静止している状態では、コントローラ5に対して加えられる加速度は重力加速度を意味する。したがって、この状態においては、加速度センサ37が出力する第1加速度データ94を用いて重力加速度の方向(重力方向)を算出することができるので、重力方向に対するコントローラ5の向き(姿勢)を当該第1加速度データ94に基づいて算出することができる。以上のようにして算出された「加速度に基づく姿勢」を表すデータはメインメモリに記憶される。   Next, the CPU 10 corrects the attitude of the controller 5 calculated based on the angular velocity using the first acceleration data 94. Specifically, the CPU 10 first reads the first acceleration data 94 from the main memory, and calculates the attitude of the controller 5 based on the first acceleration data 94. Here, when the controller 5 is almost stationary, the acceleration applied to the controller 5 means gravitational acceleration. Therefore, in this state, the direction of gravitational acceleration (gravity direction) can be calculated using the first acceleration data 94 output from the acceleration sensor 37, so that the direction (posture) of the controller 5 with respect to the gravitational direction can be calculated. It can be calculated based on one acceleration data 94. Data representing the “posture based on acceleration” calculated as described above is stored in the main memory.

加速度に基づく姿勢を算出すると、CPU10は次に、加速度に基づく姿勢を用いて、角速度に基づく姿勢を補正する。具体的には、CPU10は、角速度に基づく姿勢を表すデータと加速度に基づく姿勢を表すデータとをメインメモリから読み出し、角速度データに基づく姿勢を、加速度データに基づく姿勢へ所定の割合で近づける補正を行う。この所定の割合は、予め定められた固定値であってもよいし、第1加速度データ94が示す加速度等に応じて設定されてもよい。また、加速度に基づく姿勢に関しては、重力方向を軸とする回転方向については姿勢を算出することができないので、CPU10は、当該回転方向に関しては補正を行わないようにしてもよい。本実施形態においては、以上のようにして得られた補正後の姿勢を表すデータはメインメモリに記憶される。   After calculating the posture based on the acceleration, the CPU 10 next corrects the posture based on the angular velocity using the posture based on the acceleration. Specifically, the CPU 10 reads out the data representing the posture based on the angular velocity and the data representing the posture based on the acceleration from the main memory, and corrects the posture based on the angular velocity data closer to the posture based on the acceleration data at a predetermined ratio. Do. This predetermined ratio may be a predetermined fixed value, or may be set according to the acceleration or the like indicated by the first acceleration data 94. In addition, regarding the posture based on acceleration, since the posture cannot be calculated for the rotation direction with the gravity direction as an axis, the CPU 10 may not correct the rotation direction. In the present embodiment, data representing the corrected posture obtained as described above is stored in the main memory.

上記のようにして角速度に基づく姿勢を補正した後、CPU10は、補正後の姿勢をマーカ座標データ96を用いてさらに補正する。まず、CPU10は、マーカ座標データ96に基づいてコントローラ5の姿勢(マーカ座標に基づく姿勢)を算出する。マーカ座標データ96は、撮像画像内におけるマーカ6Rおよび6Lの位置を示すので、これらの位置から、ロール方向(Z軸回りの回転方向)に関するコントローラ5の姿勢を算出することができる。つまり、撮像画像内においてマーカ6Rの位置とマーカ6Lの位置とを結ぶ直線の傾きから、ロール方向に関するコントローラ5の姿勢を算出することができる。また、マーカ装置6に対するコントローラ5の位置が特定できる場合(例えば、マーカ装置6の正面にコントローラ5が位置すると想定できる場合)には、撮像画像内におけるマーカ装置6の位置から、ピッチ方向およびヨー方向に関するコントローラ5の姿勢を算出することができる。例えば、撮像画像内においてマーカ6Rおよび6Lの位置が左に移動した場合、コントローラ5は右に向き(姿勢)を変えたと判断することができる。このように、マーカ6Rおよびマーカ6Lの位置から、ピッチ方向およびヨー方向に関するコントローラ5の姿勢を算出することができる。以上のようにして、マーカ座標データ96に基づいてコントローラ5の姿勢を算出することができる。   After correcting the posture based on the angular velocity as described above, the CPU 10 further corrects the corrected posture using the marker coordinate data 96. First, the CPU 10 calculates the attitude of the controller 5 (attitude based on marker coordinates) based on the marker coordinate data 96. Since the marker coordinate data 96 indicates the positions of the markers 6R and 6L in the captured image, the attitude of the controller 5 with respect to the roll direction (the rotation direction around the Z axis) can be calculated from these positions. That is, the posture of the controller 5 with respect to the roll direction can be calculated from the inclination of a straight line connecting the position of the marker 6R and the position of the marker 6L in the captured image. When the position of the controller 5 with respect to the marker device 6 can be specified (for example, when it can be assumed that the controller 5 is located in front of the marker device 6), the pitch direction and yaw are determined from the position of the marker device 6 in the captured image. The attitude of the controller 5 with respect to the direction can be calculated. For example, when the positions of the markers 6R and 6L move to the left in the captured image, the controller 5 can determine that the orientation (posture) has changed to the right. Thus, the attitude of the controller 5 with respect to the pitch direction and the yaw direction can be calculated from the positions of the marker 6R and the marker 6L. As described above, the attitude of the controller 5 can be calculated based on the marker coordinate data 96.

マーカ座標に基づく姿勢を算出すると、CPU10は次に、上記補正後の姿勢(加速度に基づく姿勢によって補正された姿勢)を、マーカ座標に基づく姿勢で補正する。すなわち、CPU10は、補正後の姿勢を、マーカ座標に基づく姿勢へ所定の割合で近づける補正を行う。この所定の割合は、予め定められた固定値であってもよい。また、マーカ座標に基づく姿勢による補正は、ロール方向、ピッチ方向、およびヨー方向のいずれか1つまたは2つの方向のみについて行われてもよい。例えば、マーカ座標データ96を用いる場合、ロール方向については精度良く姿勢を算出することができるので、CPU10は、ロール方向についてのみ、マーカ座標データ96に基づく姿勢を用いて補正を行ってもよい。また、コントローラ5の撮像素子40によってマーカ装置6またはマーカ部55が撮像されていない場合は、マーカ座標データ96に基づく姿勢を算出することができないので、この場合にはマーカ座標データ96を用いる補正処理は実行されなくてもよい。   After calculating the posture based on the marker coordinates, the CPU 10 next corrects the corrected posture (the posture corrected by the posture based on acceleration) with the posture based on the marker coordinates. That is, the CPU 10 performs correction to bring the corrected posture closer to the posture based on the marker coordinates at a predetermined rate. This predetermined ratio may be a predetermined fixed value. Further, the correction based on the posture based on the marker coordinates may be performed only in any one or two directions of the roll direction, the pitch direction, and the yaw direction. For example, when the marker coordinate data 96 is used, the posture can be accurately calculated with respect to the roll direction. Therefore, the CPU 10 may perform correction using the posture based on the marker coordinate data 96 only for the roll direction. Further, when the marker device 6 or the marker unit 55 is not imaged by the imaging device 40 of the controller 5, the posture based on the marker coordinate data 96 cannot be calculated. In this case, correction using the marker coordinate data 96 is performed. The process may not be executed.

上記によれば、CPU10は、第1角速度データ95に基づいて算出されたコントローラ5の第1姿勢を、第1加速度データ94およびマーカ座標データ96を用いて補正した。ここで、コントローラ5の姿勢を算出する方法のうち、角速度を用いる方法では、コントローラ5がどのように動いているときであっても姿勢を算出することができる。一方、角速度を用いる方法では、逐次検出される角速度を累積加算していくことによって姿勢を算出するので、誤差が累積すること等によって精度が悪くなったり、いわゆる温度ドリフトの問題でジャイロセンサの精度が悪くなったりするおそれがある。また、加速度を用いる方法は、誤差が蓄積しない一方、コントローラ5が激しく動かされている状態では、(重力方向を正確に検出することができないので)姿勢を精度良く算出することができない。また、マーカ座標を用いる方法は、(特にロール方向に関して)姿勢を精度良く算出することができる一方、マーカ部55を撮像できない状態では姿勢を算出することができない。これに対して、本実施形態によれば、上記のように特長の異なる3種類の方法を用いるので、コントローラ5の姿勢をより正確に算出することができる。なお、他の実施形態においては、上記3つの方法のうちいずれか1つまたは2つを用いて姿勢を算出するようにしてもよい。また、上記ステップS1またはS22の処理においてマーカの点灯制御を行う場合には、CPU10は、少なくともマーカ座標を用いてコントローラ5の姿勢を算出することが好ましい。   Based on the above, the CPU 10 corrected the first attitude of the controller 5 calculated based on the first angular velocity data 95 using the first acceleration data 94 and the marker coordinate data 96. Here, among the methods for calculating the attitude of the controller 5, the method using the angular velocity can calculate the attitude even when the controller 5 is moving. On the other hand, in the method using the angular velocity, the posture is calculated by accumulating the angular velocities detected sequentially, so that the accuracy deteriorates due to accumulated errors, etc., or the accuracy of the gyro sensor due to the so-called temperature drift problem. May get worse. In addition, the method using acceleration does not accumulate errors, but cannot accurately calculate the posture (because the direction of gravity cannot be detected accurately) when the controller 5 is moved violently. Further, the method using the marker coordinates can calculate the attitude with high accuracy (particularly regarding the roll direction), but cannot calculate the attitude when the marker unit 55 cannot be imaged. On the other hand, according to this embodiment, since the three types of methods having different features are used as described above, the attitude of the controller 5 can be calculated more accurately. In other embodiments, the posture may be calculated using any one or two of the above three methods. When performing marker lighting control in the processing of step S1 or S22, the CPU 10 preferably calculates the attitude of the controller 5 using at least marker coordinates.

上記ステップS23の次に、ステップS24の処理が実行される。ステップS24においては、CPU10は、端末装置7の姿勢を算出する。すなわち、端末装置7から取得される端末操作データ97には、第2加速度データ101、第2角速度データ102、および方位データ103が含まれるので、CPU10は、これらのデータに基づいて端末装置7の姿勢を算出する。ここで、CPU10は、第2角速度データ102によって端末装置7の単位時間当たりにおける回転量(姿勢の変化量)を知ることができる。また、端末装置7がほぼ静止している状態では、端末装置7に対して加えられる加速度は重力加速度を意味するので、第2加速度データ101によって端末装置7に加えられる重力方向(すなわち、重力方向を基準とした端末装置7の姿勢)を知ることができる。また、方位データ103によって、端末装置7を基準とした所定の方位(すなわち、所定の方位を基準とした端末装置7の姿勢)を知ることができる。なお、地磁気以外の磁界が発生している場合であっても、端末装置7の回転量を知ることができる。したがって、CPU10は、これら第2加速度データ101、第2角速度データ102、および方位データ103に基づいて端末装置7の姿勢を算出することができる。なお、本実施形態においては、上記3つのデータに基づいて端末装置7の姿勢を算出するが、他の実施形態においては、上記3つのデータのうち1つまたは2つに基づいて姿勢を算出するようにしてもよい。   Following step S23, the process of step S24 is executed. In step S <b> 24, the CPU 10 calculates the attitude of the terminal device 7. That is, since the terminal operation data 97 acquired from the terminal device 7 includes the second acceleration data 101, the second angular velocity data 102, and the azimuth data 103, the CPU 10 uses the data of the terminal device 7 based on these data. Calculate the posture. Here, the CPU 10 can know the amount of rotation (the amount of change in posture) per unit time of the terminal device 7 from the second angular velocity data 102. In addition, when the terminal device 7 is almost stationary, the acceleration applied to the terminal device 7 means gravitational acceleration. Therefore, the gravity direction applied to the terminal device 7 by the second acceleration data 101 (that is, the gravity direction). Can be known). Further, it is possible to know a predetermined direction with reference to the terminal device 7 (that is, the attitude of the terminal device 7 with reference to the predetermined direction) from the direction data 103. Even when a magnetic field other than geomagnetism is generated, the amount of rotation of the terminal device 7 can be known. Therefore, the CPU 10 can calculate the attitude of the terminal device 7 based on the second acceleration data 101, the second angular velocity data 102, and the azimuth data 103. In the present embodiment, the attitude of the terminal device 7 is calculated based on the three data. In other embodiments, the attitude is calculated based on one or two of the three data. You may do it.

なお、端末装置7の姿勢の具体的な算出方法はどのような方法であってもよいが、例えば、第2角速度データ102が表す角速度に基づいて算出される姿勢を、第2加速度データ101および方位データ103を用いて補正する方法が考えられる。具体的には、CPU10は、まず、第2角速度データ102に基づいて端末装置7の姿勢を算出する。なお、角速度に基づいて姿勢を算出する方法は、上記ステップS23における方法と同様であってもよい。次に、CPU10は、適宜のタイミング(例えば、端末装置7が静止状態に近い場合に)で、角速度に基づいて算出される姿勢を、第2加速度データ101に基づいて算出される姿勢、および/または、方位データ103に基づいて算出される姿勢によって補正する。なお、角速度に基づく姿勢を加速度に基づく姿勢で補正する方法は、上述したコントローラ5の姿勢を算出する場合と同様の方法であってもよい。また、角速度に基づく姿勢を方位データに基づく姿勢で補正する場合には、CPU10は、角速度に基づく姿勢を、方位データに基づく姿勢へと所定の割合で近づけるようにしてもよい。以上によれば、CPU10は、端末装置7の姿勢を正確に算出することができる。   Note that any specific method for calculating the attitude of the terminal device 7 may be used. For example, the attitude calculated based on the angular velocity represented by the second angular velocity data 102 may be the second acceleration data 101 and A method of correcting using the azimuth data 103 is conceivable. Specifically, the CPU 10 first calculates the attitude of the terminal device 7 based on the second angular velocity data 102. The method for calculating the attitude based on the angular velocity may be the same as the method in step S23. Next, the CPU 10 changes the posture calculated based on the angular velocity to the posture calculated based on the second acceleration data 101 at an appropriate timing (for example, when the terminal device 7 is close to a stationary state), and / or Or it correct | amends with the attitude | position calculated based on the azimuth | direction data 103. FIG. Note that the method for correcting the posture based on the angular velocity with the posture based on the acceleration may be the same method as that for calculating the posture of the controller 5 described above. When correcting the posture based on the angular velocity with the posture based on the azimuth data, the CPU 10 may cause the posture based on the angular velocity to approach the posture based on the azimuth data at a predetermined rate. Based on the above, the CPU 10 can accurately calculate the attitude of the terminal device 7.

なお、コントローラ5は、赤外線検知手段である撮像情報演算部35を備えているので、ゲーム装置3はマーカ座標データ96を取得することができる。そのため、コントローラ5に関しては、ゲーム装置3は、実空間における絶対的な姿勢(実空間に設定された座標系においてコントローラ5がどのような姿勢であるか)をマーカ座標データ96から知ることができる。一方、端末装置7は撮像情報演算部35のような赤外線検知手段を備えていない。そのため、ゲーム装置3は、第2加速度データ101および第2角速度データ102からのみでは、重力方向を軸とした回転方向に関して実空間における絶対的な姿勢を知ることができない。そこで、本実施形態では端末装置7が磁気センサ62を備える構成とし、ゲーム装置3は方位データ103を取得するようにしている。これによれば、ゲーム装置3は、重力方向を軸とした回転方向に関して実空間における絶対的な姿勢を方位データ103から算出することができ、端末装置7の姿勢をより正確に算出することができる。   Since the controller 5 includes the imaging information calculation unit 35 that is an infrared detection means, the game apparatus 3 can acquire the marker coordinate data 96. Therefore, with respect to the controller 5, the game apparatus 3 can know from the marker coordinate data 96 the absolute posture in the real space (what posture the controller 5 is in the coordinate system set in the real space). . On the other hand, the terminal device 7 does not include an infrared detection unit such as the imaging information calculation unit 35. Therefore, the game apparatus 3 cannot know the absolute posture in the real space with respect to the rotation direction about the gravity direction only from the second acceleration data 101 and the second angular velocity data 102. Therefore, in the present embodiment, the terminal device 7 is configured to include the magnetic sensor 62, and the game apparatus 3 acquires the orientation data 103. According to this, the game apparatus 3 can calculate the absolute attitude in the real space with respect to the rotation direction with the gravity direction as the axis from the orientation data 103, and can calculate the attitude of the terminal device 7 more accurately. it can.

上記ステップS24の具体的な処理としては、CPU10は、第2加速度データ101、第2角速度データ102、および方位データ103をメインメモリから読み出し、これらのデータに基づいて端末装置7の姿勢を算出する。そして、算出された端末装置7の姿勢を表すデータを端末姿勢データ109としてメインメモリに記憶する。ステップS24の次にステップS25の処理が実行される。   As a specific process of step S24, the CPU 10 reads the second acceleration data 101, the second angular velocity data 102, and the azimuth data 103 from the main memory, and calculates the attitude of the terminal device 7 based on these data. . Then, data representing the calculated attitude of the terminal device 7 is stored in the main memory as terminal attitude data 109. Following step S24, the process of step S25 is executed.

ステップS25において、CPU10は、カメラ画像の認識処理を実行する。すなわち、CPU10は、カメラ画像データ104に対して所定の認識処理を行う。この認識処理は、カメラ画像から何らかの特徴を検知してその結果を出力するものであればどのようなものであってもよい。例えば、カメラ画像にプレイヤの顔が含まれている場合には、顔を認識する処理であってもよい。具体的には、顔の一部(目や鼻や口等)を検出する処理であってもよいし、顔の表情を検出する処理であってもよい。また、認識処理の結果を表すデータは、画像認識データ110としてメインメモリに記憶される。ステップS25の次にステップS26の処理が実行される。   In step S25, the CPU 10 executes camera image recognition processing. That is, the CPU 10 performs a predetermined recognition process on the camera image data 104. This recognition process may be anything as long as it detects some feature from the camera image and outputs the result. For example, when a camera image includes a player's face, a process for recognizing the face may be used. Specifically, it may be a process of detecting a part of the face (eyes, nose, mouth, etc.) or a process of detecting facial expressions. Data representing the result of recognition processing is stored in the main memory as image recognition data 110. Following step S25, the process of step S26 is executed.

ステップS26において、CPU10は、マイク音声の認識処理を実行する。すなわち、CPU10は、マイク音データ105に対して所定の認識処理を行う。この認識処理は、マイク音声から何らかの特徴を検知してその結果を出力するものであればどのようなものであってもよい。例えば、マイク音声からプレイヤの指示を検出する処理であってもよいし、単にマイク音声の音量を検出する処理であってもよい。また、認識処理の結果を表すデータは、音声認識データ111としてメインメモリに記憶される。ステップS26の次にステップS27の処理が実行される。   In step S26, the CPU 10 executes microphone sound recognition processing. That is, the CPU 10 performs a predetermined recognition process on the microphone sound data 105. This recognition process may be anything as long as it detects some feature from the microphone sound and outputs the result. For example, it may be a process of detecting a player instruction from a microphone sound, or a process of simply detecting the volume of the microphone sound. Data representing the result of recognition processing is stored in the main memory as voice recognition data 111. Following step S26, the process of step S27 is executed.

ステップS27において、CPU10は、ゲーム入力に応じたゲーム処理を実行する。ここで、ゲーム入力とは、コントローラ5または端末装置7から送信されてくるデータ、あるいは、当該データから得られるデータであればどのようなものであってもよい。具体的には、ゲーム入力は、コントローラ操作データ92および端末操作データ97に含まれる各データの他、当該各データから得られるデータ(コントローラ姿勢データ108、端末姿勢データ109、画像認識データ110、および音声認識データ111)であってもよい。また、ステップS27におけるゲーム処理の内容はどのようなものであってもよく、例えば、ゲームに登場するオブジェクト(キャラクタ)を動作させる処理、仮想カメラを制御する処理、または、画面に表示されるカーソルを移動する処理であってもよい。また、カメラ画像(またはその一部)をゲーム画像として用いる処理、または、マイク音声をゲーム音声として用いる処理等であってもよい。なお上記ゲーム処理の例については後述する。ステップS27においては、例えば、ゲームに登場するキャラクタ(オブジェクト)に設定される各種パラメータのデータや、ゲーム空間に配置される仮想カメラに関するパラメータのデータや、得点のデータ等、ゲーム制御処理の結果を表すデータがメインメモリに記憶される。ステップS27の後、CPU10はステップS4のゲーム制御処理を終了する。   In step S27, the CPU 10 executes a game process according to the game input. Here, the game input may be any data as long as it is data transmitted from the controller 5 or the terminal device 7 or data obtained from the data. Specifically, the game input is not only the data included in the controller operation data 92 and the terminal operation data 97, but also data obtained from the data (controller attitude data 108, terminal attitude data 109, image recognition data 110, and Voice recognition data 111) may be used. Further, the content of the game process in step S27 may be anything, for example, a process for operating an object (character) appearing in the game, a process for controlling a virtual camera, or a cursor displayed on the screen. It may be a process of moving. Moreover, the process which uses a camera image (or its part) as a game image, the process which uses a microphone sound as a game sound, etc. may be sufficient. An example of the game process will be described later. In step S27, the results of the game control process, such as data of various parameters set for a character (object) appearing in the game, data of parameters related to a virtual camera arranged in the game space, score data, etc. Representing data is stored in the main memory. After step S27, the CPU 10 ends the game control process of step S4.

図12の説明に戻り、ステップS5において、テレビ2に表示するためのテレビ用ゲーム画像がCPU10およびGPU11bによって生成される。すなわち、CPU10およびGPU11bは、ステップS4のゲーム制御処理の結果を表すデータをメインメモリから読み出し、また、ゲーム画像を生成するために必要なデータをVRAM11dから読み出し、ゲーム画像を生成する。ゲーム画像は、ステップS4のゲーム制御処理の結果を表すものであればよく、どのような方法で生成されてもよい。例えば、ゲーム画像の生成方法は、仮想のゲーム空間内に仮想カメラを配置して、仮想カメラから見たゲーム空間を計算することによって3次元のCG画像を生成する方法であってもよいし、(仮想カメラを用いずに)2次元の画像を生成する方法であってもよい。生成されたテレビ用ゲーム画像はVRAM11dに記憶される。上記ステップS5の次にステップS6の処理が実行される。   Returning to the description of FIG. 12, in step S5, a television game image to be displayed on the television 2 is generated by the CPU 10 and the GPU 11b. That is, the CPU 10 and the GPU 11b read data representing the result of the game control process in step S4 from the main memory, and read data necessary for generating a game image from the VRAM 11d to generate a game image. The game image only needs to represent the result of the game control process in step S4, and may be generated by any method. For example, the game image generation method may be a method of generating a three-dimensional CG image by arranging a virtual camera in a virtual game space and calculating a game space viewed from the virtual camera. A method of generating a two-dimensional image (without using a virtual camera) may be used. The generated television game image is stored in the VRAM 11d. Following step S5, the process of step S6 is executed.

ステップS6において、端末装置7に表示するための端末用ゲーム画像がCPU10およびGPU11bによって生成される。端末用ゲーム画像も上記テレビ用ゲーム画像と同様、ステップS4のゲーム制御処理の結果を表すものであればよく、どのような方法で生成されてもよい。また、端末用ゲーム画像は、上記テレビ用ゲーム画像と同様の方法で生成されてもよいし、異なる方法で生成されてもよい。生成された端末用ゲーム画像はVRAM11dに記憶される。なお、ゲームの内容によってはテレビ用ゲーム画像と端末用ゲーム画像とは同一であってもよく、この場合、ステップS6においてゲーム画像の生成処理は実行されなくてもよい。上記ステップS6の次にステップS7の処理が実行される。   In step S6, a terminal game image to be displayed on the terminal device 7 is generated by the CPU 10 and the GPU 11b. The terminal game image may be generated by any method as long as it represents the result of the game control process in step S4, similarly to the television game image. Further, the terminal game image may be generated by the same method as the television game image or may be generated by a different method. The generated terminal game image is stored in the VRAM 11d. Depending on the content of the game, the television game image and the terminal game image may be the same, and in this case, the game image generation process may not be executed in step S6. Following step S6, the process of step S7 is executed.

ステップS7においては、テレビ2のスピーカ2aに出力するためのテレビ用ゲーム音声が生成される。すなわち、CPU10は、ステップS4のゲーム制御処理の結果に応じたゲーム音声をDSP11cに生成させる。なお、生成されるゲーム音声は、例えばゲームの効果音や、ゲームに登場するキャラクタの声や、BGM等であってもよい。上記ステップS7の次にステップS8の処理が実行される。   In step S7, a television game sound to be output to the speaker 2a of the television 2 is generated. That is, the CPU 10 causes the DSP 11c to generate game sound corresponding to the result of the game control process in step S4. The generated game sound may be, for example, a game sound effect, a voice of a character appearing in the game, BGM, or the like. Following step S7, the process of step S8 is executed.

ステップS8においては、端末装置7のスピーカ67に出力するための端末用ゲーム音声が生成される。すなわち、CPU10は、ステップS4のゲーム制御処理の結果に応じたゲーム音声をDSP11cに生成させる。なお、端末用ゲーム音声は、上記テレビ用ゲーム音声と同じであってもよいし、異なっていてもよい。また、例えば効果音は異なるが、BGMは同じである、というように、一部のみが異なっていてもよい。なお、テレビ用ゲーム音声と端末用ゲーム音声とが同一である場合、ステップS8においてゲーム音声の生成処理は実行されなくてもよい。上記ステップS8の次にステップS9の処理が実行される。   In step S8, a terminal game sound to be output to the speaker 67 of the terminal device 7 is generated. That is, the CPU 10 causes the DSP 11c to generate game sound corresponding to the result of the game control process in step S4. The terminal game sound may be the same as or different from the television game sound. Further, for example, the sound effects are different, but the BGM is the same, and only a part may be different. Note that when the television game sound and the terminal game sound are the same, the game sound generation process does not have to be executed in step S8. Following step S8, the process of step S9 is executed.

ステップS9において、CPU10は、テレビ2へゲーム画像およびゲーム音声を出力する。具体的には、CPU10は、VRAM11dに記憶されたテレビ用ゲーム画像のデータと、ステップS7でDSP11cによって生成されたテレビ用ゲーム音声のデータとをAV−IC15へ送る。これに応じて、AV−IC15は画像および音声のデータをAVコネクタ16を介してテレビ2へ出力する。これによって、テレビ用ゲーム画像がテレビ2に表示されるとともに、テレビ用ゲーム音声がスピーカ2aから出力される。ステップS9の次にステップS10の処理が実行される。   In step S <b> 9, the CPU 10 outputs a game image and game sound to the television 2. Specifically, the CPU 10 sends the TV game image data stored in the VRAM 11d and the TV game sound data generated by the DSP 11c in step S7 to the AV-IC 15. In response to this, the AV-IC 15 outputs image and audio data to the television 2 via the AV connector 16. Thus, the television game image is displayed on the television 2 and the television game sound is output from the speaker 2a. Following step S9, the process of step S10 is executed.

ステップS10において、CPU10は、端末装置7へゲーム画像およびゲーム音声を送信する。具体的には、VRAM11dに記憶された端末用ゲーム画像の画像データ、および、ステップS8でDSP11cによって生成された音声データは、CPU10によってコーデックLSI27に送られ、コーデックLSI27によって所定の圧縮処理が行われる。さらに、圧縮処理が施された画像および音声のデータは、端末通信モジュール28によってアンテナ29を介して端末装置7へ送信される。端末装置7は、ゲーム装置3から送信されてくる画像および音声のデータを無線モジュール70によって受信し、コーデックLSI66によって所定の伸張処理が行われる。伸張処理が行われた画像データはLCD51に出力され、伸張処理が行われた音声データはサウンドIC68に出力される。これによって、端末用ゲーム画像がLCD51に表示されるとともに、端末用ゲーム音声がスピーカ67から出力される。ステップS10の次にステップS11の処理が実行される。   In step S <b> 10, the CPU 10 transmits a game image and game sound to the terminal device 7. Specifically, the image data of the terminal game image stored in the VRAM 11d and the audio data generated by the DSP 11c in step S8 are sent to the codec LSI 27 by the CPU 10, and predetermined compression processing is performed by the codec LSI 27. . Further, the compressed image and audio data is transmitted to the terminal device 7 via the antenna 29 by the terminal communication module 28. The terminal device 7 receives the image and sound data transmitted from the game device 3 by the wireless module 70, and a predetermined decompression process is performed by the codec LSI 66. The decompressed image data is output to the LCD 51, and the decompressed audio data is output to the sound IC 68. As a result, the terminal game image is displayed on the LCD 51 and the terminal game sound is output from the speaker 67. Following step S10, the process of step S11 is executed.

ステップS11において、CPU10は、ゲームを終了するか否かを判定する。ステップS11の判定は、例えば、ゲームオーバーになったか否か、あるいは、ユーザがゲームを中止する指示を行ったか否か等によって行われる。ステップS11の判定結果が否定の場合、ステップS2の処理が再度実行される。一方、ステップS11の判定結果が肯定の場合、CPU10は図12に示すゲーム処理を終了する。以降、ステップS2〜S11の一連の処理は、ステップS11でゲームを終了すると判定されるまで繰り返し実行される。   In step S11, the CPU 10 determines whether or not to end the game. The determination in step S11 is made based on, for example, whether or not the game is over or whether or not the user has given an instruction to stop the game. If the determination result of step S11 is negative, the process of step S2 is executed again. On the other hand, if the determination result of step S11 is affirmative, the CPU 10 ends the game process shown in FIG. Thereafter, a series of processes in steps S2 to S11 are repeatedly executed until it is determined in step S11 that the game is to be ended.

以上のように、本実施形態では、端末装置7は、タッチパネル52と、加速度センサ63またはジャイロセンサ64といった慣性センサとを備えており、タッチパネル52および慣性センサの出力が操作データとしてゲーム装置3へ送信されてゲームの入力として用いられる(ステップS3,S4)。さらに、端末装置7は表示装置(LCD51)を備えており、ゲーム処理によって得られるゲーム画像がLCD51に表示される(ステップS6,S10)。したがって、ユーザは、タッチパネル52を用いてゲーム画像に対して直接タッチする操作を行うことができ、また、(端末装置7の動きが慣性センサによって検出されるため)ゲーム画像が表示されるLCD51自体を動かす操作を行うことができる。ユーザは、これらの操作によってゲーム画像に対して直接操作を行うような操作感覚でゲームを行うことができるので、例えば後述する第1および第2のゲーム例のような新規な操作感覚のゲームを提供することができる。   As described above, in the present embodiment, the terminal device 7 includes the touch panel 52 and the inertia sensor such as the acceleration sensor 63 or the gyro sensor 64, and outputs from the touch panel 52 and the inertia sensor are input to the game apparatus 3 as operation data. It is transmitted and used as game input (steps S3 and S4). Further, the terminal device 7 includes a display device (LCD 51), and a game image obtained by the game process is displayed on the LCD 51 (steps S6 and S10). Therefore, the user can directly touch the game image using the touch panel 52, and the LCD 51 itself on which the game image is displayed (because the movement of the terminal device 7 is detected by the inertial sensor). Can be operated. Since the user can play the game with an operation feeling that directly operates the game image by these operations, for example, a game with a new operation feeling such as first and second game examples described later is performed. Can be provided.

さらに、本実施形態では、端末装置7は、端末装置7を把持した状態で操作可能なアナログスティック53および操作ボタン54を備えており、ゲーム装置3は、アナログスティック53および操作ボタン54に対する操作をゲームの入力として用いることができる(ステップS3,S4)。したがって、上記のようにゲーム画像に対して直接操作を行う場合においても、ユーザはボタン操作やスティック操作によってより詳細なゲーム操作を行うことができる。   Furthermore, in the present embodiment, the terminal device 7 includes an analog stick 53 and an operation button 54 that can be operated while holding the terminal device 7, and the game apparatus 3 performs an operation on the analog stick 53 and the operation button 54. It can be used as a game input (steps S3 and S4). Accordingly, even when the game image is directly operated as described above, the user can perform a more detailed game operation by a button operation or a stick operation.

さらに、本実施形態では、端末装置7はカメラ56およびマイク69を備えており、カメラ56が撮像するカメラ画像のデータ、および、マイク69が検出するマイク音のデータはゲーム装置3へ送信される(ステップS3)。したがって、ゲーム装置3は、上記カメラ画像および/またはマイク音をゲーム入力として用いることが可能であるので、ユーザは、カメラ56で画像を撮像する操作や、マイク69に音声を入力する操作によってゲーム操作を行うことも可能である。なお、これらの操作は端末装置7を把持した状態で行うことが可能であるので、上記のようにゲーム画像に対して直接操作を行う場合においてこれらの操作を行うことによって、ユーザはより多彩なゲーム操作を行うことができる。   Further, in the present embodiment, the terminal device 7 includes a camera 56 and a microphone 69, and camera image data captured by the camera 56 and microphone sound data detected by the microphone 69 are transmitted to the game apparatus 3. (Step S3). Therefore, since the game apparatus 3 can use the camera image and / or the microphone sound as a game input, the user can perform a game by an operation of capturing an image with the camera 56 or an operation of inputting a sound into the microphone 69. It is also possible to perform operations. Since these operations can be performed with the terminal device 7 being held, the user can perform more various operations by directly performing the operations on the game image as described above. Game operations can be performed.

また、本実施形態では、可搬型である端末装置7のLCD51にゲーム画像が表示される(ステップS6,S10)ので、ユーザは、端末装置7を自由に配置することができる。したがって、コントローラ5をマーカの方へ向けて操作を行う場合において、ユーザは、端末装置7を自由な位置に配置することによってコントローラ5を自由な方向に向けてゲームを行うことができ、コントローラ5に対する操作の自由度を向上することができる。また、端末装置7を任意の位置に配置することができるので、例えば後述する第5のゲーム例のように、ゲーム内容に適した位置に端末装置7を配置することによって、より現実感のあるゲームを提供することができる。   In the present embodiment, since the game image is displayed on the LCD 51 of the portable terminal device 7 (steps S6 and S10), the user can freely arrange the terminal device 7. Accordingly, when the controller 5 is operated toward the marker, the user can play the game by directing the controller 5 in any direction by arranging the terminal device 7 at any position. The degree of freedom of operation with respect to can be improved. Further, since the terminal device 7 can be arranged at an arbitrary position, it is more realistic by arranging the terminal device 7 at a position suitable for the game content, for example, as in a fifth game example described later. A game can be offered.

また、本実施形態によれば、ゲーム装置3は、コントローラ5および端末装置7から操作データ等を取得する(ステップS2,S3)ので、ユーザは、コントローラ5および端末装置7という2つの装置を操作手段として用いることができる。したがって、ゲームシステム1においては、各装置を複数人のユーザが使用することによって複数人でゲームを行うこともでき、また、1人のユーザが2つの装置を使用してゲームを行うこともできる。   In addition, according to the present embodiment, the game apparatus 3 acquires operation data and the like from the controller 5 and the terminal apparatus 7 (steps S2 and S3), so that the user operates two apparatuses, the controller 5 and the terminal apparatus 7. It can be used as a means. Therefore, in the game system 1, a plurality of users can use each device to play a game with a plurality of users, and one user can also play a game using two devices. .

また、本実施形態によれば、ゲーム装置3は2種類のゲーム画像を生成し(ステップS5,S6)、テレビ2と端末装置7とにゲーム画像を表示させる(ステップS9,S10)ことができる。このように、2種類のゲーム画像を異なる装置に表示させることによって、ユーザにとってより見やすいゲーム画像を提供することができ、ゲームの操作性を向上することができる。例えば、2人でゲームを行う場合には、後述する第3または第4のゲーム例のように、一方のユーザにとって見やすい視点のゲーム画像をテレビ2に表示し、他方のユーザにとって見やすい視点のゲーム画像を端末装置7に表示することによって、それぞれのプレイヤが見やすい視点でゲームを行うことができる。また、例えば1人でゲームを行う場合においても、後述する第1、第2および第5のゲーム例のように、異なる2箇所の視点で2種類のゲーム画像を表示することによって、プレイヤはゲーム空間の様子をより容易に把握することができ、ゲームの操作性を向上することができる。   Further, according to the present embodiment, the game apparatus 3 can generate two types of game images (steps S5 and S6), and display the game images on the television 2 and the terminal device 7 (steps S9 and S10). . Thus, by displaying two types of game images on different devices, it is possible to provide a game image that is easier for the user to see and improve the operability of the game. For example, when two people play a game, a game image with a viewpoint that is easy to see for one user is displayed on the television 2 and a game with a viewpoint that is easy for the other user to see, as in a third or fourth game example described later. By displaying the image on the terminal device 7, it is possible to play the game from the viewpoint that each player can easily see. For example, even when one person plays a game, the player can display a game by displaying two types of game images from two different viewpoints as in first, second, and fifth game examples described later. The state of the space can be grasped more easily, and the operability of the game can be improved.

[6.ゲーム例]
次に、ゲームシステム1において行われるゲームの具体例について説明する。なお、以下に説明するゲーム例においては、ゲームシステム1における各装置の構成のうち一部を利用しない場合もあり、また、図12および図13に示す一連の処理のうち一部の処理を実行しない場合もある。つまり、ゲームシステム1は、上述した全ての構成を備えていなくてもよく、また、ゲーム装置3は図12および図13に示す一連の処理の一部を実行しなくてもよい。
[6. Game example]
Next, a specific example of a game performed in the game system 1 will be described. In the game example described below, some of the configurations of the devices in the game system 1 may not be used, and some of the series of processes shown in FIGS. 12 and 13 are executed. Sometimes not. That is, the game system 1 may not have all the above-described configurations, and the game apparatus 3 may not execute a part of a series of processes illustrated in FIGS. 12 and 13.

(第1のゲーム例)
第1のゲーム例は、端末装置7を操作することによってゲーム空間内においてオブジェクト(手裏剣)を飛ばすゲームである。プレイヤは、端末装置7の姿勢を変化させる操作と、タッチパネル52上に線を描く操作とによって、手裏剣を発射する方向を指示することができる。
(First game example)
The first game example is a game in which an object (shuriken) is skipped in the game space by operating the terminal device 7. The player can instruct the direction of firing the shuriken by an operation of changing the attitude of the terminal device 7 and an operation of drawing a line on the touch panel 52.

図14は、第1のゲーム例におけるテレビ2の画面と端末装置7とを示す図である。図14においては、テレビ2および端末装置7のLCD51には、ゲーム空間を表すゲーム画像が表示されている。テレビ2には、手裏剣121、制御面122、および標的123が表示されている。LCD51には、制御面122(および手裏剣121)が表示されている。第1のゲーム例においては、プレイヤは、端末装置7を用いた操作によって手裏剣121を飛ばして標的123に当てて遊ぶ。   FIG. 14 is a diagram showing the screen of the television 2 and the terminal device 7 in the first game example. In FIG. 14, a game image representing a game space is displayed on the television 2 and the LCD 51 of the terminal device 7. On the television 2, a shuriken 121, a control surface 122, and a target 123 are displayed. The LCD 51 displays a control surface 122 (and a shuriken 121). In the first game example, the player plays by hitting the shuriken 121 and hitting the target 123 by an operation using the terminal device 7.

手裏剣121を飛ばす場合、プレイヤは、まず、端末装置7の姿勢を操作することによって、仮想のゲーム空間内に配置される制御面122の姿勢を変化させて所望の姿勢にする。すなわち、CPU10は、慣性センサ(加速度センサ63およびジャイロセンサ64)ならびに磁気センサ62の出力に基づいて端末装置7の姿勢を算出し(ステップS24)、算出された姿勢に基づいて制御面122の姿勢を変化させる(ステップS27)。第1のゲーム例では、制御面122の姿勢は、現実空間における端末装置7の姿勢に応じた姿勢となるように制御される。つまり、プレイヤは、端末装置7(端末装置7に表示されている制御面122)の姿勢を変化させることで、ゲーム空間内において制御面122の姿勢を変化させることができる。なお、第1のゲーム例においては、制御面122の位置は、ゲーム空間における所定位置に固定される。   When throwing the shuriken 121, the player first operates the attitude of the terminal device 7 to change the attitude of the control surface 122 arranged in the virtual game space to a desired attitude. That is, the CPU 10 calculates the attitude of the terminal device 7 based on the outputs of the inertial sensor (the acceleration sensor 63 and the gyro sensor 64) and the magnetic sensor 62 (step S24), and the attitude of the control surface 122 based on the calculated attitude. Is changed (step S27). In the first game example, the posture of the control surface 122 is controlled to be a posture corresponding to the posture of the terminal device 7 in the real space. That is, the player can change the posture of the control surface 122 in the game space by changing the posture of the terminal device 7 (the control surface 122 displayed on the terminal device 7). In the first game example, the position of the control surface 122 is fixed at a predetermined position in the game space.

次に、プレイヤは、タッチペン124等を用いてタッチパネル52上に線を描く操作を行う(図14に示す矢印参照)。ここで、第1のゲーム例においては、端末装置7のLCD51には、タッチパネル52の入力面と制御面122とが対応するように制御面122が表示される。したがって、タッチパネル52上に描かれた線によって、制御面122上での方向(当該線が表す方向)を算出することができる。手裏剣121は、このようにして決定された方向へ発射される。以上より、CPU10は、タッチパネル52のタッチ位置データ100から制御面122上での方向を算出し、算出された方向へ手裏剣121を移動させる処理を行う(ステップS27)。なお、CPU10は、例えば線の長さや線を描く速度に応じて手裏剣121の速度を制御するようにしてもよい。   Next, the player performs an operation of drawing a line on the touch panel 52 using the touch pen 124 or the like (see the arrow shown in FIG. 14). Here, in the first game example, the control surface 122 is displayed on the LCD 51 of the terminal device 7 so that the input surface of the touch panel 52 and the control surface 122 correspond to each other. Therefore, the direction on the control surface 122 (the direction represented by the line) can be calculated from the line drawn on the touch panel 52. The shuriken 121 is fired in the direction determined in this way. As described above, the CPU 10 calculates a direction on the control surface 122 from the touch position data 100 of the touch panel 52, and performs a process of moving the shuriken 121 in the calculated direction (step S27). Note that the CPU 10 may control the speed of the shuriken 121 according to, for example, the length of the line or the speed of drawing the line.

以上のように、第1のゲーム例によれば、ゲーム装置3は、慣性センサの出力をゲーム入力として用いることによって、端末装置7の動き(姿勢)に応じて制御面122を動かすとともに、タッチパネル52の出力をゲーム入力として用いることによって、制御面122上における方向を特定することができる。これによれば、プレイヤは、端末装置7に表示されたゲーム画像(制御面122の画像)を動かしたり、当該ゲーム画像に対してタッチ操作を行ったりすることができるので、ゲーム画像に対して直接操作を行っているような新規な操作感覚でゲームを行うことができる。   As described above, according to the first game example, the game apparatus 3 moves the control surface 122 according to the movement (posture) of the terminal device 7 by using the output of the inertial sensor as a game input, and the touch panel. By using the output of 52 as the game input, the direction on the control surface 122 can be specified. According to this, the player can move the game image (image of the control surface 122) displayed on the terminal device 7 or perform a touch operation on the game image. It is possible to play a game with a new operation feeling as if direct operation is being performed.

また、第1のゲーム例においては、慣性センサおよびタッチパネル52のセンサ出力をゲーム入力として用いることで、3次元空間における方向を容易に指示することができる。すなわち、プレイヤは、一方の手で端末装置7の姿勢を実際に調整し、もう一方の手でタッチパネル52に線で方向を入力することによって、空間内で実際に方向を入力しているような直感的な操作で容易に方向を指示することができる。さらに、プレイヤは、端末装置7の姿勢の操作とタッチパネル52に対する入力操作とを同時に並行して行うことができるので、3次元空間における方向を指示する操作を迅速に行うことができる。   Further, in the first game example, the direction in the three-dimensional space can be easily indicated by using the inertial sensor and the sensor output of the touch panel 52 as the game input. That is, the player actually adjusts the posture of the terminal device 7 with one hand, and inputs the direction with a line to the touch panel 52 with the other hand, so that the player actually inputs the direction in the space. The direction can be easily designated by an intuitive operation. Furthermore, since the player can simultaneously perform the posture operation of the terminal device 7 and the input operation on the touch panel 52 in parallel, the player can quickly perform the operation of instructing the direction in the three-dimensional space.

また、第1のゲーム例によれば、制御面122に対するタッチ入力の操作を行いやすくするために、端末装置7には画面全体に制御面122が表示される。一方、テレビ2には、制御面122の姿勢を把握しやすいように、また、標的123を狙いやすいように、制御面122の全体および標的123を含むゲーム空間の画像が表示される(図14参照)。すなわち、上記ステップS27においては、テレビ用ゲーム画像を生成するための第1仮想カメラは、制御面122の全体および標的123が視野範囲に含まれるように設定されるとともに、端末用ゲーム画像を生成するための第2仮想カメラは、LCD51の画面(タッチパネル52の入力面)と制御面122とが画面上において一致するように設定される。したがって、第1のゲーム例においては、テレビ2と端末装置7とに異なる視点から見たゲーム空間の画像を表示することによって、ゲーム操作をより行いやすくしている。   Further, according to the first game example, the control surface 122 is displayed on the entire screen of the terminal device 7 in order to facilitate the touch input operation on the control surface 122. On the other hand, the television 2 displays an image of the entire control surface 122 and a game space including the target 123 so that the posture of the control surface 122 can be easily grasped and the target 123 can be easily aimed (FIG. 14). reference). That is, in step S27, the first virtual camera for generating the television game image is set so that the entire control surface 122 and the target 123 are included in the visual field range, and the terminal game image is generated. The second virtual camera to be set is set so that the screen of the LCD 51 (the input surface of the touch panel 52) and the control surface 122 coincide on the screen. Therefore, in the first game example, the game operation is made easier by displaying images of the game space viewed from different viewpoints on the television 2 and the terminal device 7.

(第2のゲーム例)
なお、慣性センサおよびタッチパネル52のセンサ出力をゲーム入力として用いるゲームは、上記第1のゲーム例に限らず、種々のゲーム例が考えられる。第2のゲーム例は、第1のゲーム例と同様、端末装置7を操作することによってゲーム空間内においてオブジェクト(大砲の弾)を飛ばすゲームである。プレイヤは、端末装置7の姿勢を変化させる操作と、タッチパネル52上の位置を指定する操作とによって、弾を発射する方向を指示することができる。
(Second game example)
Note that the game using the sensor output of the inertial sensor and the touch panel 52 as a game input is not limited to the first game example, and various game examples are conceivable. Similar to the first game example, the second game example is a game in which an object (cannon bullet) is blown in the game space by operating the terminal device 7. The player can instruct the direction in which the bullet is to be fired by an operation for changing the attitude of the terminal device 7 and an operation for designating a position on the touch panel 52.

図15は、第2のゲーム例におけるテレビ2の画面と端末装置7とを示す図である。図15においては、テレビ2には、大砲131、弾132、および標的133が表示されている。端末装置7には、弾132および標的133が表示されている。端末装置7に表示される端末用ゲーム画像は、大砲131の位置からゲーム空間を見た画像である。   FIG. 15 is a diagram illustrating the screen of the television 2 and the terminal device 7 in the second game example. In FIG. 15, a cannon 131, a bullet 132, and a target 133 are displayed on the television 2. On the terminal device 7, bullets 132 and targets 133 are displayed. The terminal game image displayed on the terminal device 7 is an image of the game space viewed from the position of the cannon 131.

第2のゲーム例においては、プレイヤは、端末装置7の姿勢を操作することによって、端末用ゲーム画像として端末装置7に表示される表示範囲を変化させることができる。すなわち、CPU10は、慣性センサ(加速度センサ63およびジャイロセンサ64)ならびに磁気センサ62の出力に基づいて端末装置7の姿勢を算出し(ステップS24)、算出された姿勢に基づいて、端末用ゲーム画像を生成するための第2仮想カメラの位置および姿勢を制御する(ステップS27)。具体的には、第2仮想カメラは、大砲131の位置に設置され、端末装置7の姿勢に応じて向き(姿勢)が制御される。このように、プレイヤは、端末装置7の姿勢を変化させることによって、端末装置7に表示されるゲーム空間の範囲を変化させることができる。   In the second game example, the player can change the display range displayed on the terminal device 7 as a terminal game image by operating the attitude of the terminal device 7. That is, the CPU 10 calculates the attitude of the terminal device 7 based on the outputs of the inertial sensor (the acceleration sensor 63 and the gyro sensor 64) and the magnetic sensor 62 (step S24), and based on the calculated attitude, the terminal game image To control the position and orientation of the second virtual camera for generating (step S27). Specifically, the second virtual camera is installed at the position of the cannon 131 and the direction (attitude) is controlled according to the attitude of the terminal device 7. Thus, the player can change the range of the game space displayed on the terminal device 7 by changing the attitude of the terminal device 7.

また、第2のゲーム例においては、プレイヤは、タッチパネル52上において点を入力する操作(タッチする操作)によって弾132の発射方向を指定する。具体的には、上記ステップS27の処理として、CPU10は、タッチ位置に対応するゲーム空間内の位置(制御位置)を算出し、ゲーム空間内における所定位置(例えば大砲131の位置)から制御位置への方向を発射方向として算出する。そして、発射方向へ弾132を移動させる処理を行う。このように、上記第1のゲーム例ではプレイヤはタッチパネル52上に線を描く操作を行ったが、第2のゲーム例では、タッチパネル52上の点を指定する操作を行う。なお、上記制御位置は、上記第1のゲーム例と同様の制御面を設定する(ただし、第2のゲーム例では制御面は表示されない)ことで算出することができる。すなわち、端末装置7における表示範囲に対応するように、第2仮想カメラの姿勢に応じて制御面を配置する(具体的には、制御面は、大砲131の位置を中心として、端末装置7の姿勢の変化に応じて回転移動する)ことで、タッチ位置に対応する制御面上の位置を制御位置として算出することができる。   In the second game example, the player designates the firing direction of the bullet 132 by an operation of inputting a point (touching operation) on the touch panel 52. Specifically, as the process of step S27, the CPU 10 calculates a position (control position) in the game space corresponding to the touch position, and changes from a predetermined position (for example, the position of the cannon 131) in the game space to the control position. Is calculated as the launch direction. Then, a process of moving the bullet 132 in the firing direction is performed. As described above, in the first game example, the player performs an operation of drawing a line on the touch panel 52, but in the second game example, an operation of designating a point on the touch panel 52 is performed. The control position can be calculated by setting a control surface similar to that in the first game example (however, the control surface is not displayed in the second game example). That is, the control surface is arranged according to the attitude of the second virtual camera so as to correspond to the display range in the terminal device 7 (specifically, the control surface is centered on the position of the cannon 131 and The position on the control surface corresponding to the touch position can be calculated as the control position.

上記第2のゲーム例によれば、ゲーム装置3は、慣性センサの出力をゲーム入力として用いることによって、端末装置7の動き(姿勢)に応じて端末用ゲーム画像の表示範囲を変化させるとともに、当該表示範囲内の位置を指定するタッチ入力をゲーム入力として用いることによって、ゲーム空間内における方向(弾132の発射方向)を特定することができる。したがって、第2のゲーム例においても第1のゲーム例と同様、プレイヤは、端末装置7に表示されたゲーム画像を動かしたり、当該ゲーム画像に対してタッチ操作を行ったりすることができるので、ゲーム画像に対して直接操作を行っているような新規な操作感覚でゲームを行うことができる。   According to the second game example, the game apparatus 3 changes the display range of the terminal game image according to the movement (posture) of the terminal device 7 by using the output of the inertial sensor as a game input. By using a touch input for designating a position within the display range as a game input, the direction in the game space (the firing direction of the bullet 132) can be specified. Accordingly, in the second game example, as in the first game example, the player can move the game image displayed on the terminal device 7 or perform a touch operation on the game image. It is possible to play a game with a novel operation feeling as if the game image was directly operated.

また、第2の実施例においても第1の実施例と同様、プレイヤは、一方の手で端末装置7の姿勢を実際に調整し、もう一方の手でタッチパネル52に対してタッチ入力を行うことによって、空間内で実際に方向を入力しているような直感的な操作で容易に方向を指示することができる。さらに、プレイヤは、端末装置7の姿勢の操作とタッチパネル52に対する入力操作とを同時に並行して行うことができるので、3次元空間における方向を指示する操作を迅速に行うことができる。   Also in the second embodiment, as in the first embodiment, the player actually adjusts the attitude of the terminal device 7 with one hand and performs touch input on the touch panel 52 with the other hand. Thus, the direction can be easily instructed by an intuitive operation such as actually inputting the direction in the space. Furthermore, since the player can simultaneously perform the posture operation of the terminal device 7 and the input operation on the touch panel 52 in parallel, the player can quickly perform the operation of instructing the direction in the three-dimensional space.

なお、第2のゲーム例において、テレビ2に表示される画像は端末装置7と同じ視点からの画像であってもよいが、図15では、ゲーム装置3は別視点からの画像を表示させるようにしている。すなわち、端末用ゲーム画像を生成するための第2仮想カメラは大砲131の位置に設定されるのに対して、テレビ用ゲーム画像を生成するための第1仮想カメラは大砲131の後方の位置に設定される。ここで、例えば、端末装置7の画面には見えない範囲をテレビ2に表示させるようにすることによって、端末装置7の画面では見えない標的133をプレイヤがテレビ2の画面を見て狙うような遊び方を実現することができる。このように、テレビ2と端末装置7との表示範囲を異なるようにすることで、ゲーム空間内の様子をより把握しやすくするだけでなく、ゲームの興趣性をより向上することも可能である。   In the second game example, the image displayed on the television 2 may be an image from the same viewpoint as the terminal device 7, but in FIG. 15, the game apparatus 3 displays an image from another viewpoint. I have to. That is, the second virtual camera for generating the terminal game image is set at the position of the cannon 131, while the first virtual camera for generating the TV game image is at the position behind the cannon 131. Is set. Here, for example, by causing the television 2 to display a range that cannot be seen on the screen of the terminal device 7, the player may aim at the target 133 that cannot be seen on the screen of the terminal device 7 by looking at the screen of the television 2. How to play can be realized. Thus, by making the display range of the television 2 and the terminal device 7 different, it is possible not only to make it easier to grasp the state in the game space but also to improve the fun of the game. .

以上のように、本実施形態によれば、タッチパネル52と慣性センサを備える端末装置7を操作装置として用いることができるので、上記第1および第2のゲーム例のような、ゲーム画像に対して直接操作を行うような操作感覚のゲームを実現することができる。   As described above, according to the present embodiment, since the terminal device 7 including the touch panel 52 and the inertial sensor can be used as the operation device, the game image as in the first and second game examples is used. It is possible to realize a game with a feeling of operation such as direct operation.

(第3のゲーム例)
以下、図16および図17を参照して、第3のゲーム例について説明する。第3のゲーム例は、2人のプレイヤが対戦する形式の野球ゲームである。すなわち、第1プレイヤは、コントローラ5を用いて打者を操作し、第2プレイヤは端末装置7を用いて投手を操作する。また、テレビ2および端末装置7には各プレイヤにとってゲーム操作が行いやすいゲーム画像が表示される。
(Third game example)
Hereinafter, the third game example will be described with reference to FIGS. 16 and 17. The third game example is a baseball game of a form in which two players battle each other. That is, the first player operates the batter using the controller 5, and the second player operates the pitcher using the terminal device 7. The television 2 and the terminal device 7 display a game image that allows each player to easily perform a game operation.

図16は、第3のゲーム例においてテレビ2に表示されるテレビ用ゲーム画像の一例を示す図である。図16に示すテレビ用ゲーム画像は、主に第1プレイヤのための画像である。すなわち、テレビ用ゲーム画像は、第1プレイヤの操作対象である打者(打者オブジェクト)141の側から、第2プレイヤの操作対象である投手(投手オブジェクト)142の方を見たゲーム空間を表す。テレビ用ゲーム画像を生成するための第1仮想カメラは、打者141の後方の位置に、打者141から投手142の方へ向くように配置される。   FIG. 16 is a diagram illustrating an example of a television game image displayed on the television 2 in the third game example. The television game image shown in FIG. 16 is an image mainly for the first player. That is, the television game image represents a game space in which the pitcher (pitcher object) 142 that is the operation target of the second player is viewed from the batter (batter object) 141 that is the operation target of the first player. The first virtual camera for generating the television game image is disposed at a position behind the batter 141 so as to face the pitcher 142 from the batter 141.

一方、図17は、第3のゲーム例において端末装置7に表示される端末用ゲーム画像の一例を示す図である。図17に示す端末用ゲーム画像は、主に第2プレイヤのための画像である。すなわち、端末用ゲーム画像は、第2プレイヤの操作対象である投手142の側から、第1プレイヤの操作対象である打者141の方を見たゲーム空間を表す。具体的には、上記ステップS27において、CPU10は、端末用ゲーム画像を生成するために用いる第2仮想カメラを端末装置7の姿勢に基づいて制御する。第2仮想カメラの姿勢は、上述した第2のゲーム例と同様、端末装置7の姿勢と対応するように算出される。また、第2仮想カメラの位置は、予め定められた所定位置に固定される。なお、端末用ゲーム画像には、投手142がボールを投げる方向を示すためのカーソル143が含まれる。   On the other hand, FIG. 17 is a diagram illustrating an example of a terminal game image displayed on the terminal device 7 in the third game example. The terminal game image shown in FIG. 17 is an image mainly for the second player. That is, the terminal game image represents a game space in which the batter 141 that is the operation target of the first player is viewed from the pitcher 142 that is the operation target of the second player. Specifically, in step S <b> 27, the CPU 10 controls the second virtual camera used for generating the terminal game image based on the attitude of the terminal device 7. The attitude of the second virtual camera is calculated so as to correspond to the attitude of the terminal device 7 as in the second game example described above. Further, the position of the second virtual camera is fixed at a predetermined position. The terminal game image includes a cursor 143 for indicating the direction in which the pitcher 142 throws the ball.

なお、第1プレイヤによる打者141の操作方法、および、第2プレイヤによる投手142の操作方法は、どのような方法であってもよい。例えば、CPU10は、コントローラ5の慣性センサの出力データに基づいてコントローラ5に対する振り操作を検出し、振り操作に応じて打者141にバットを振る動作を行わせるようにしてもよい。また例えば、CPU10は、アナログスティック53に対する操作に従ってカーソル143を移動させ、操作ボタン54のうちの所定のボタンが押下された場合、カーソル143が指し示す位置に向かってボールを投げる動作を投手142に行わせてもよい。また、カーソル143は、アナログスティック53に対する操作に代えて、端末装置7の姿勢に応じて移動されてもよい。   Note that any method may be used for the operation method of the batter 141 by the first player and the operation method of the pitcher 142 by the second player. For example, the CPU 10 may detect a swing operation on the controller 5 based on output data of an inertial sensor of the controller 5 and cause the batter 141 to swing the bat in accordance with the swing operation. Further, for example, the CPU 10 moves the cursor 143 in accordance with the operation on the analog stick 53, and when the predetermined button of the operation buttons 54 is pressed, the CPU 10 performs an operation of throwing the ball toward the position indicated by the cursor 143 to the pitcher 142. You may let them. Further, the cursor 143 may be moved according to the attitude of the terminal device 7 instead of the operation on the analog stick 53.

以上のように、第3のゲーム例においては、テレビ2および端末装置7に互いに異なる視点でゲーム画像を生成することによって、各プレイヤにとって見やすく操作しやすいゲーム画像が提供される。   As described above, in the third game example, by generating game images from different viewpoints on the television 2 and the terminal device 7, game images that are easy to see and operate for each player are provided.

また、第3のゲーム例においては、単一のゲーム空間に2つの仮想カメラが設定され、ゲーム空間を各仮想カメラから見た2種類のゲーム画像がそれぞれ表示される(図16および図17)。したがって、第3のゲーム例において生成される2種類のゲーム画像に関しては、ゲーム空間に対するゲーム処理(ゲーム空間内のオブジェクトの制御等)はほとんどが共通であって、共通のゲーム空間に関して描画処理を2回行なうだけでそれぞれのゲーム画像が生成できるので、当該ゲーム処理をそれぞれ行う場合に比べると処理効率が高いという利点がある。   In the third game example, two virtual cameras are set in a single game space, and two types of game images when the game space is viewed from each virtual camera are displayed (FIGS. 16 and 17). . Therefore, for the two types of game images generated in the third game example, most of the game processing (control of objects in the game space, etc.) for the game space is common, and drawing processing is performed for the common game space. Since each game image can be generated only by performing it twice, there is an advantage that the processing efficiency is higher than in the case where each game process is performed.

また、第3のゲーム例においては、投球方向を表すカーソル143は端末装置7側にのみ表示されるので、第1プレイヤはカーソル143が指し示す位置を見ることができない。そのため、第1プレイヤに投球方向が知られて第2プレイヤが不利になるといったゲーム上の不都合が生じない。このように、本実施形態においては、一方のプレイヤがそのゲーム画像を見てしまうと他方のプレイヤにとってゲーム上の不都合が生じる場合には、当該ゲーム画像を端末装置7に表示すればよい。これによって、ゲームの戦略性が低下する等の不都合を防止することができる。なお、他の実施形態において、ゲームの内容によっては(例えば、端末用ゲーム画像が第1プレイヤに見られても上記のような不都合が生じない場合には)、ゲーム装置3は、端末用ゲーム画像をテレビ用ゲーム画像とともにテレビ2に表示するようにしてもよい。   In the third game example, since the cursor 143 representing the pitching direction is displayed only on the terminal device 7 side, the first player cannot see the position indicated by the cursor 143. Therefore, there is no inconvenience on the game that the first player knows the pitching direction and the second player is disadvantaged. As described above, in this embodiment, if one player sees the game image and the other player has a problem on the game, the game image may be displayed on the terminal device 7. This can prevent inconveniences such as a decrease in the strategy of the game. In other embodiments, depending on the content of the game (for example, when the above-described inconvenience does not occur even when the terminal game image is viewed by the first player), the game apparatus 3 may be the terminal game. The image may be displayed on the television 2 together with the television game image.

(第4のゲーム例)
以下、図18および図19を参照して、第4のゲーム例について説明する。第4のゲーム例は、2人のプレイヤが協力する形式のシューティングゲームである。すなわち、第1プレイヤは、コントローラ5を用いて飛行機を移動させる操作を行い、第2プレイヤは、端末装置7を用いて飛行機の大砲の発射方向を制御する操作を行う。第4のゲーム例においても第3のゲーム例と同様、テレビ2および端末装置7には各プレイヤにとってゲーム操作が行いやすいゲーム画像が表示される。
(Fourth game example)
Hereinafter, the fourth game example will be described with reference to FIGS. 18 and 19. The fourth game example is a shooting game in which two players cooperate. That is, the first player performs an operation of moving the airplane using the controller 5, and the second player performs an operation of controlling the firing direction of the airplane cannon using the terminal device 7. Also in the fourth game example, similar to the third game example, the television 2 and the terminal device 7 display a game image that allows each player to easily perform the game operation.

図18は、第4のゲーム例においてテレビ2に表示されるテレビ用ゲーム画像の一例を示す図である。また、図19は、第4のゲーム例において端末装置7に表示される端末用ゲーム画像の一例を示す図である。図18に示すように、第4のゲーム例では、仮想のゲーム空間に飛行機(飛行機オブジェクト)151と標的(風船オブジェクト)153とが登場する。また、飛行機151は大砲(大砲オブジェクト)152を有している。   FIG. 18 is a diagram illustrating an example of a television game image displayed on the television 2 in the fourth game example. FIG. 19 is a diagram illustrating an example of a terminal game image displayed on the terminal device 7 in the fourth game example. As shown in FIG. 18, in the fourth game example, an airplane (plane object) 151 and a target (balloon object) 153 appear in a virtual game space. The airplane 151 has a cannon (cannon object) 152.

図18に示すように、テレビ用ゲーム画像としては、飛行機151を含むゲーム空間の画像が表示される。テレビ用ゲーム画像を生成するための第1仮想カメラは、飛行機151を後方から見たゲーム空間の画像を生成するように設定される。すなわち、第1仮想カメラは、飛行機151の後方の位置に、飛行機151が撮影範囲(視野範囲)に含まれる姿勢で配置される。また、第1仮想カメラは、飛行機151の移動に伴って移動するように制御される。つまり、CPU10は、上記ステップS27の処理において、コントローラ操作データに基づいて飛行機151の移動を制御するとともに、第1仮想カメラの位置および姿勢を制御する。このように、第1仮想カメラの位置および姿勢は、第1プレイヤの操作に応じて制御される。   As shown in FIG. 18, an image of the game space including the airplane 151 is displayed as the television game image. The first virtual camera for generating the television game image is set so as to generate an image of the game space when the airplane 151 is viewed from behind. That is, the first virtual camera is arranged at a position behind the airplane 151 in a posture in which the airplane 151 is included in the shooting range (viewing range). Further, the first virtual camera is controlled to move as the airplane 151 moves. That is, in the process of step S27, the CPU 10 controls the movement of the airplane 151 based on the controller operation data, and controls the position and orientation of the first virtual camera. Thus, the position and posture of the first virtual camera are controlled in accordance with the operation of the first player.

一方、図19に示すように、端末用ゲーム画像としては、飛行機151(より具体的には大砲152)から見たゲーム空間の画像が表示される。したがって、端末用ゲーム画像を生成するための第2仮想カメラは、飛行機151の位置(より具体的には大砲152の位置)に配置される。CPU10は、上記ステップS27の処理において、コントローラ操作データに基づいて飛行機151の移動を制御するとともに、第2仮想カメラの位置を制御する。なお、第2仮想カメラは、飛行機151あるいは大砲152の周辺の位置(例えば、大砲152のやや後方の位置)に配置されてもよい。以上のように、第2仮想カメラの位置は、(飛行機151の移動を操作する)第1プレイヤの操作によって制御されることになる。したがって、第4のゲーム例においては、第1仮想カメラと第2仮想カメラは連動して移動する。   On the other hand, as shown in FIG. 19, an image of the game space viewed from the airplane 151 (more specifically, the cannon 152) is displayed as the terminal game image. Therefore, the second virtual camera for generating the terminal game image is arranged at the position of the airplane 151 (more specifically, the position of the cannon 152). In the process of step S27, the CPU 10 controls the movement of the airplane 151 and the position of the second virtual camera based on the controller operation data. The second virtual camera may be arranged at a position around the airplane 151 or the cannon 152 (for example, a position slightly behind the cannon 152). As described above, the position of the second virtual camera is controlled by the operation of the first player (operating the movement of the airplane 151). Accordingly, in the fourth game example, the first virtual camera and the second virtual camera move in conjunction with each other.

また、端末用ゲーム画像としては、大砲152の発射方向の向きに見たゲーム空間の画像が表示される。ここで、大砲152の発射方向は、端末装置7の姿勢に対応するように制御される。つまり、本実施形態においては、第2仮想カメラの姿勢は、第2仮想カメラの視線方向が大砲152の発射方向と一致するように制御される。CPU10は、上記ステップS27の処理において、上記ステップS24で算出される端末装置7の姿勢に応じて、大砲152の向きおよび第2仮想カメラの姿勢を制御する。このように、第2仮想カメラの姿勢は、第2プレイヤの操作によって制御される。また、第2プレイヤは、端末装置7の姿勢を変化させることによって、大砲152の発射方向を変化させることができる。   Further, as the terminal game image, an image of the game space viewed in the direction of the firing direction of the cannon 152 is displayed. Here, the firing direction of the cannon 152 is controlled so as to correspond to the attitude of the terminal device 7. That is, in the present embodiment, the attitude of the second virtual camera is controlled so that the line-of-sight direction of the second virtual camera matches the firing direction of the cannon 152. In the process of step S27, the CPU 10 controls the orientation of the cannon 152 and the attitude of the second virtual camera according to the attitude of the terminal device 7 calculated in step S24. Thus, the attitude of the second virtual camera is controlled by the operation of the second player. Further, the second player can change the firing direction of the cannon 152 by changing the attitude of the terminal device 7.

なお、大砲152から弾を発射する場合、第2プレイヤは、端末装置7の所定のボタンを押下する。所定のボタンが押下されると、大砲152の向きに弾が発射される。端末用ゲーム画像においては、LCD51の画面中央に照準154が表示され、照準154が指し示す方向へ弾が発射される。   When a bullet is fired from the cannon 152, the second player presses a predetermined button on the terminal device 7. When a predetermined button is pressed, a bullet is fired in the direction of the cannon 152. In the terminal game image, an aim 154 is displayed at the center of the LCD 51 and a bullet is fired in the direction indicated by the aim 154.

以上のように、第4のゲーム例においては、第1プレイヤは、飛行機151の進行方向の方を見たゲーム空間を表すテレビ用ゲーム画像(図18)を主に見ながら、(例えば所望の標的153の方向へ移動するように)飛行機151を操作する。一方、第2プレイヤは、大砲152の発射方向の方を見たゲーム空間を表す端末用ゲーム画像(図19)を主に見ながら、大砲152を操作する。このように、第4のゲーム例においては、2人のプレイが協力する形式のゲームにおいて、それぞれのプレイヤにとって見やすく操作しやすいゲーム画像を、テレビ2と端末装置7とにそれぞれ表示することができる。   As described above, in the fourth game example, the first player mainly looks at the television game image (FIG. 18) representing the game space viewed in the traveling direction of the airplane 151 (for example, a desired game). The airplane 151 is operated (moving in the direction of the target 153). On the other hand, the second player operates the cannon 152 while mainly viewing the terminal game image (FIG. 19) representing the game space as seen in the firing direction of the cannon 152. As described above, in the fourth game example, in a game in which two players cooperate, game images that are easy to see and operate for each player can be displayed on the television 2 and the terminal device 7, respectively. .

また、第4のゲーム例においては、第1プレイヤの操作によって第1仮想カメラおよび第2仮想カメラの位置が制御され、第2プレイヤの操作によって第2仮想カメラの姿勢が制御される。つまり、本実施形態においては、各プレイヤのそれぞれのゲーム操作に応じて仮想カメラの位置または姿勢が変化する結果、各表示装置に表示されるゲーム空間の表示範囲が変化する。表示装置に表示されるゲーム空間の表示範囲が各プレイヤの操作に応じて変化するので、各プレイヤは、自己のゲーム操作がゲーム進行に十分に反映されていることを実感することができ、ゲームを十分に楽しむことができる。   In the fourth game example, the positions of the first virtual camera and the second virtual camera are controlled by the operation of the first player, and the attitude of the second virtual camera is controlled by the operation of the second player. In other words, in the present embodiment, the display range of the game space displayed on each display device changes as a result of the position or posture of the virtual camera changing according to the respective game operations of each player. Since the display range of the game space displayed on the display device changes according to the operation of each player, each player can realize that his game operation is sufficiently reflected in the game progress. Can fully enjoy.

なお、第4のゲーム例においては、飛行機151の後方から見たゲーム画像がテレビ2に表示され、飛行機151の大砲の位置から見たゲーム画像が端末装置7に表示された。ここで、他のゲーム例においては、ゲーム装置3は、飛行機151の後方から見たゲーム画像を端末装置7に表示させ、飛行機151の大砲152の位置から見たゲーム画像がテレビ2に表示させるようにしてもよい。このとき、各プレイヤの役割は上記第4のゲーム例と入れ替わり、第1プレイヤがコントローラ5を用いて大砲152の操作を行い、第2プレイヤが端末装置7を用いて飛行機151の操作を行うようにするとよい。   In the fourth game example, a game image viewed from behind the airplane 151 is displayed on the television 2, and a game image viewed from the position of the cannon of the airplane 151 is displayed on the terminal device 7. Here, in another game example, the game apparatus 3 displays a game image viewed from behind the airplane 151 on the terminal device 7 and displays a game image viewed from the position of the cannon 152 of the airplane 151 on the television 2. You may do it. At this time, the role of each player is switched to the fourth game example, and the first player operates the cannon 152 using the controller 5, and the second player operates the airplane 151 using the terminal device 7. It is good to.

(第5のゲーム例)
以下、図20を参照して、第5のゲーム例について説明する。第5のゲーム例は、プレイヤがコントローラ5を用いて操作を行うゲームであり、端末装置7は操作装置ではなく表示装置として用いられる。具体的には、第5のゲーム例はゴルフゲームであり、プレイヤがコントローラ5をゴルフクラブのように振る操作(スイング操作)に応じて、ゲーム装置3は仮想のゲーム空間におけるプレイヤキャラクタにゴルフのスイング動作を行わせる。
(Fifth game example)
Hereinafter, a fifth game example will be described with reference to FIG. The fifth game example is a game in which a player performs an operation using the controller 5, and the terminal device 7 is used as a display device instead of an operation device. Specifically, the fifth game example is a golf game, and in response to an operation (swing operation) in which the player swings the controller 5 like a golf club, the game apparatus 3 plays golf on the player character in the virtual game space. Make the swing action.

図20は、第5のゲーム例におけるゲームシステム1の使用の様子を示す図である。図20において、テレビ2の画面には、プレイヤキャラクタ(のオブジェクト)161およびゴルフクラブ(のオブジェクト)162を含むゲーム空間の画像が表示される。なお、図20では、ゴルフクラブ162に隠れているので表示されていないが、ゲーム空間に配置されたボール(のオブジェクト)163もテレビ2に表示される。一方、図20に示すように、端末装置7は、LCD51の画面が鉛直上向きとなるように、テレビ2の前方正面の床面に配置される。端末装置7には、ボール163を表す画像と、ゴルフクラブ162の一部(具体的には、ゴルフクラブのヘッド162a)を表す画像と、ゲーム空間の地面を表す画像とが表示される。端末用ゲーム画像は、ボールの周囲を上から見た画像である。   FIG. 20 is a diagram illustrating how the game system 1 is used in the fifth game example. In FIG. 20, an image of a game space including a player character (its object) 161 and a golf club (its object) 162 is displayed on the screen of the television 2. In FIG. 20, the ball (object) 163 arranged in the game space is also displayed on the television 2 although it is not displayed because it is hidden by the golf club 162. On the other hand, as shown in FIG. 20, the terminal device 7 is arranged on the floor surface in front of the television 2 so that the screen of the LCD 51 is vertically upward. The terminal device 7 displays an image representing the ball 163, an image representing a part of the golf club 162 (specifically, the golf club head 162a), and an image representing the ground of the game space. The terminal game image is an image of the periphery of the ball viewed from above.

ゲームを行う際、プレイヤ160は、端末装置7の近傍に立ち、コントローラ5をゴルフクラブのように振るスイング操作を行う。このとき、CPU10は、上記ステップS27において、上記ステップS23の処理で算出されるコントローラ5の姿勢に応じてゲーム空間におけるゴルフクラブ162の位置および姿勢を制御する。具体的には、ゴルフクラブ162は、コントローラ5の先端方向(図3に示すZ軸正方向)がLCD51に表示されるボール163の画像を向く場合に、ゲーム空間内のゴルフクラブ162がボール163に当たるように、制御される。   When playing the game, the player 160 stands in the vicinity of the terminal device 7 and performs a swing operation of swinging the controller 5 like a golf club. At this time, in step S27, the CPU 10 controls the position and posture of the golf club 162 in the game space according to the posture of the controller 5 calculated in the processing of step S23. Specifically, when the front end direction of the controller 5 (the Z-axis positive direction shown in FIG. 3) faces the image of the ball 163 displayed on the LCD 51, the golf club 162 in the game space has the ball 163. It is controlled to hit.

また、コントローラ5の先端方向がLCD51の方へ向く場合には、ゴルフクラブ162の一部を表す画像(ヘッド画像)164がLCD51に表示される(図20参照)。なお、端末用ゲーム画像に関しては、現実感を増すために、ボール163の画像が実物大で表示されてもよいし、コントローラ5のZ軸回りの回転に応じてヘッド画像164の向きが回転するように表示されてもよい。また、端末用ゲーム画像は、ゲーム空間に設置される仮想カメラを用いて生成されてもよいし、予め用意された画像データを用いて生成されてもよい。予め用意された画像データを用いて生成する場合には、ゴルフコースの地形モデルを詳細に構築することなく、詳細でリアルな画像を小さい処理負荷で生成することができる。   When the tip direction of the controller 5 is directed toward the LCD 51, an image (head image) 164 representing a part of the golf club 162 is displayed on the LCD 51 (see FIG. 20). In addition, regarding the game image for the terminal, the image of the ball 163 may be displayed in actual size in order to increase the sense of reality, and the direction of the head image 164 rotates according to the rotation of the controller 5 around the Z axis. May be displayed. The terminal game image may be generated using a virtual camera installed in the game space, or may be generated using image data prepared in advance. In the case of generating using image data prepared in advance, a detailed and realistic image can be generated with a small processing load without constructing a detailed golf course terrain model.

プレイヤ160が上記スイング操作を行うことによってゴルフクラブ162が振られた結果、ゴルフクラブ162がボール163に当たると、ボール163が移動する(飛んでいく)。すなわち、CPU10は、上記ステップS27においてゴルフクラブ162とボール163とが接触したか否かを判定し、接触した場合にはボール163を移動させる。ここで、テレビ用ゲーム画像は、移動後のボール163が含まれるように生成される。すなわち、CPU10は、テレビ用ゲーム画像を生成するための第1仮想カメラは、移動するボールがその撮影範囲に含まれるように位置および姿勢が制御される。一方、端末装置7においては、ゴルフクラブ162がボール163に当たると、ボール163の画像が移動されてすぐに画面外に消える。したがって、第5のゲーム例においては、ボールが移動する様子は主にテレビ2に表示され、プレイヤ160は、スイング操作によって飛んでいったボールの行方をテレビ用ゲーム画像で確認することができる。   As a result of the golf club 162 being swung by the player 160 performing the swing operation, when the golf club 162 hits the ball 163, the ball 163 moves (flys). That is, the CPU 10 determines whether or not the golf club 162 and the ball 163 are in contact in step S27, and moves the ball 163 if they are in contact. Here, the television game image is generated so as to include the ball 163 after movement. That is, the CPU 10 controls the position and posture of the first virtual camera for generating the television game image so that the moving ball is included in the shooting range. On the other hand, in the terminal device 7, when the golf club 162 hits the ball 163, the image of the ball 163 is moved and immediately disappears from the screen. Therefore, in the fifth game example, the movement of the ball is mainly displayed on the television 2, and the player 160 can confirm the whereabouts of the ball that flew by the swing operation on the television game image.

以上のように、第5のゲーム例においては、プレイヤ160は、コントローラ5を振ることでゴルフクラブ162を振る(プレイヤキャラクタ161にゴルフクラブ162を振らせる)ことができる。ここで、第5のゲーム例においては、コントローラ5の先端方向がLCD51に表示されるボール163の画像を向く場合に、ゲーム空間内のゴルフクラブ162がボール163に当たるように制御される。したがって、プレイヤは、スイング操作によって実際のゴルフクラブを打っているかのような感覚を得ることができ、スイング操作をより現実感のあるものにすることができる。   As described above, in the fifth game example, the player 160 can swing the golf club 162 by swinging the controller 5 (the player character 161 can swing the golf club 162). Here, in the fifth game example, when the tip direction of the controller 5 faces the image of the ball 163 displayed on the LCD 51, the golf club 162 in the game space is controlled so as to hit the ball 163. Therefore, the player can obtain a feeling as if he / she is hitting an actual golf club by the swing operation, and the swing operation can be made more realistic.

第5のゲーム例においてはさらに、コントローラ5の先端方向が端末装置7の方を向く場合にはヘッド画像164がLCD51に表示される。したがって、プレイヤは、コントローラ5の先端方向を端末装置7の方へ向けることによって、仮想空間におけるゴルフクラブ162の姿勢が現実空間におけるコントローラ5の姿勢と対応している感覚を得ることができ、スイング操作をより現実感のあるものにすることができる。   In the fifth game example, a head image 164 is further displayed on the LCD 51 when the tip direction of the controller 5 faces the terminal device 7. Therefore, the player can obtain a sense that the posture of the golf club 162 in the virtual space corresponds to the posture of the controller 5 in the real space by turning the tip direction of the controller 5 toward the terminal device 7. The operation can be made more realistic.

以上のように、第5のゲーム例は、端末装置7を表示装置として利用する場合には、端末装置7を適切な位置に配置することによって、コントローラ5を用いた操作をより現実感のあるものにすることができる。   As described above, in the fifth game example, when the terminal device 7 is used as a display device, the operation using the controller 5 is more realistic by placing the terminal device 7 in an appropriate position. Can be a thing.

また、上記第5のゲーム例においては、端末装置7は床面に配置され、端末装置7にはボール163の周辺のみのゲーム空間を表す画像が表示される。そのため、ゲーム空間におけるゴルフクラブ162全体の位置・姿勢を端末装置7では表示することはできず、また、スイング操作後においてボール163が移動する様子を端末装置7では表示することはできない。そこで、第5のゲーム例では、ボール163の移動前においてはゴルフクラブ162の全体がテレビ2に表示され、ボール163の移動後においてはボール163が移動する様子がテレビ2に表示される。このように、第5のゲーム例によれば、現実感のある操作をプレイヤに提供することができるとともに、テレビ2および端末装置7の2つの画面を用いることで見やすいゲーム画像をプレイヤに対して提示することができる。   Further, in the fifth game example, the terminal device 7 is arranged on the floor surface, and an image representing the game space only around the ball 163 is displayed on the terminal device 7. Therefore, the terminal device 7 cannot display the position / posture of the entire golf club 162 in the game space, and the terminal device 7 cannot display the movement of the ball 163 after the swing operation. Therefore, in the fifth game example, the entire golf club 162 is displayed on the television 2 before the movement of the ball 163, and the manner in which the ball 163 moves is displayed on the television 2 after the movement of the ball 163. Thus, according to the fifth game example, a realistic operation can be provided to the player, and an easy-to-view game image can be displayed to the player by using the two screens of the television 2 and the terminal device 7. Can be presented.

また、上記第5のゲーム例においては、コントローラ5の姿勢を算出するために、端末装置7のマーカ部55が用いられる。すなわち、CPU10は、上記ステップS1の初期処理においてマーカ部55を点灯させ(マーカ装置6は点灯させない)、CPU10は、上記ステップS23においてマーカ座標データ96に基づいてコントローラ5の姿勢を算出する。これによれば、コントローラ5の先端方向がマーカ部55の方を向く姿勢か否かを正確に判定することができる。なお、上記第5のゲーム例では、上記ステップS21およびS22は実行されなくてもよいが、他のゲーム例においては、上記ステップS21およびS22の処理を実行することによって、点灯すべきマーカをゲームの途中で変更するようにしてもよい。例えば、CPU10は、ステップS21において、第1加速度データ94に基づいてコントローラ5の先端方向が重力方向を向くか否かを判定し、ステップS22において、重力方向を向く場合にはマーカ部55を点灯させ、重力方向を向かない場合にはマーカ装置6を点灯させるように制御してもよい。これによれば、コントローラ5の先端方向が重力方向を向く場合には、マーカ部55のマーカ座標データを取得することで、コントローラ5の姿勢を精度良く算出することができるとともに、コントローラ5の先端方向がテレビ2の方を向く場合には、マーカ装置6のマーカ座標データを取得することで、コントローラ5の姿勢を精度良く算出することができる。   In the fifth game example, the marker unit 55 of the terminal device 7 is used to calculate the attitude of the controller 5. That is, the CPU 10 turns on the marker unit 55 (the marker device 6 is not turned on) in the initial process of step S1, and the CPU 10 calculates the attitude of the controller 5 based on the marker coordinate data 96 in step S23. According to this, it is possible to accurately determine whether or not the tip direction of the controller 5 is in the posture facing the marker portion 55. In the fifth game example, steps S21 and S22 do not have to be executed, but in other game examples, the process of steps S21 and S22 is executed to indicate the marker to be lit. You may make it change in the middle of. For example, in step S21, the CPU 10 determines whether or not the tip direction of the controller 5 is directed in the direction of gravity based on the first acceleration data 94. In step S22, the marker unit 55 is turned on when the direction is in the direction of gravity. The marker device 6 may be controlled to be lit when it does not face the direction of gravity. According to this, when the tip direction of the controller 5 is directed in the direction of gravity, the posture of the controller 5 can be calculated with high accuracy by acquiring the marker coordinate data of the marker unit 55 and the tip of the controller 5 is obtained. When the direction is toward the television 2, the orientation of the controller 5 can be calculated with high accuracy by acquiring the marker coordinate data of the marker device 6.

上記第5のゲーム例で説明したように、ゲームシステム1は、端末装置7を自由な位置に設置して表示装置として利用することができる。これによれば、マーカ座標データをゲーム入力として用いる場合において、コントローラ5をテレビ2の方へ向けて使用する他、端末装置7を所望の位置に設定することによってコントローラ5を自由な方向に向けて使用することができる。すなわち、本実施形態によれば、コントローラ5を使用できる向きが制限されることないので、コントローラ5の操作の自由度を向上することができる。   As described in the fifth game example, the game system 1 can be used as a display device by installing the terminal device 7 at a free position. According to this, when the marker coordinate data is used as a game input, the controller 5 is directed toward the television 2 and the controller 5 is directed in a free direction by setting the terminal device 7 to a desired position. Can be used. That is, according to this embodiment, since the direction in which the controller 5 can be used is not limited, the degree of freedom of operation of the controller 5 can be improved.

[7.ゲームシステムの他の動作例]
上記ゲームシステム1は、上記で説明したように種々のゲームを行うための動作を行うことが可能である。端末装置7は、可搬形のディスプレイや第2のディスプレイとしても使用することができる一方で、タッチ入力や動きによる入力を行うコントローラとしても使用することができ、上記ゲームシステム1によれば、幅広いゲームを実施することが可能となる。また、ゲーム以外の用途も含め、以下のような動作を行うことも可能である。
[7. Other operation examples of game system]
The game system 1 can perform operations for playing various games as described above. While the terminal device 7 can be used as a portable display or a second display, the terminal device 7 can also be used as a controller that performs touch input or input by movement. The game can be executed. Also, the following operations can be performed including applications other than games.

(プレイヤが端末装置7のみを用いてゲームをプレイする動作例)
本実施形態において、端末装置7は、表示装置として機能するとともに、操作装置としても機能するものである。そのため、テレビ2およびコントローラ5を使用せずに端末装置7を表示手段および操作手段として使用することによって、端末装置7を携帯型のゲーム装置のように使用することも可能である。
(Operation example in which a player plays a game using only the terminal device 7)
In the present embodiment, the terminal device 7 functions as a display device and also functions as an operation device. Therefore, by using the terminal device 7 as a display unit and an operation unit without using the television 2 and the controller 5, the terminal device 7 can be used like a portable game device.

図12に示したゲーム処理に即して具体的に説明すると、CPU10は、ステップS3において端末装置7から端末操作データ97を取得し、ステップS4において端末操作データ97のみをゲーム入力として用いて(コントローラ操作データを用いずに)ゲーム処理を実行する。そして、ステップS6においてゲーム画像を生成し、ステップS10においてゲーム画像を端末装置7へ送信する。なお、このとき、ステップS2、S5、およびS9は実行されなくてもよい。以上によれば、端末装置7に対する操作に応じてゲーム処理が行われ、ゲーム処理結果を表すゲーム画像が端末装置7に表示されることとなる。このようにすれば、(実際にはゲーム処理はゲーム装置で実行されるが、)端末装置7を携帯型のゲーム装置として利用することも可能である。したがって、本実施形態によれば、テレビ2が使用中である(例えば、他の人がテレビ放送を視聴中である)等の理由でテレビ2にゲーム画像を表示できない場合でも、ユーザは端末装置7を用いてゲームを行うことができる。   Specifically, the CPU 10 acquires the terminal operation data 97 from the terminal device 7 in step S3, and uses only the terminal operation data 97 as a game input in step S4 (step S3). Game processing is executed (without using controller operation data). And a game image is produced | generated in step S6, and a game image is transmitted to the terminal device 7 in step S10. At this time, steps S2, S5, and S9 may not be executed. According to the above, a game process is performed in response to an operation on the terminal device 7, and a game image representing the game process result is displayed on the terminal device 7. In this way, the terminal device 7 can be used as a portable game device (although game processing is actually executed by the game device). Therefore, according to the present embodiment, even if the game image cannot be displayed on the television 2 because the television 2 is in use (for example, another person is viewing the television broadcast), the user can use the terminal device. 7 can be used to play a game.

なお、CPU10は、ゲーム画像に限らず、電源投入後に表示される上述のメニュー画面についても画像を端末装置7へ送信して表示させるようにしてもよい。これによれば、プレイヤは最初からテレビ2を使用せずにゲームを行うことができるので、便利である。   Note that the CPU 10 may transmit not only the game image but also the above-described menu screen displayed after power-on to the terminal device 7 for display. This is convenient because the player can play the game without using the television 2 from the beginning.

さらに、上記において、ゲーム画像を表示する表示装置を端末装置7からテレビ2へとゲーム中に変更することも可能である。具体的には、CPU10は、上記ステップS9をさらに実行し、ゲーム画像をテレビ2へ出力するようにすればよい。なお、ステップS9でテレビ2へ出力される画像は、ステップS10で端末装置7へ送信されるゲーム画像と同じである。これによれば、ゲーム装置3からの入力を表示させるようにテレビ2の入力を切り替えることで、端末装置7と同一のゲーム画像がテレビ2に表示されることとなるので、ゲーム画像を表示する表示装置をテレビ2に変更することができる。なお、テレビ2にゲーム画像が表示された後は、端末装置7の画面表示がオフにされてもよい。   Furthermore, in the above, the display device for displaying the game image can be changed from the terminal device 7 to the television 2 during the game. Specifically, the CPU 10 may further execute the above step S <b> 9 and output the game image to the television 2. Note that the image output to the television 2 in step S9 is the same as the game image transmitted to the terminal device 7 in step S10. According to this, since the same game image as the terminal device 7 is displayed on the television 2 by switching the input of the television 2 so as to display the input from the game device 3, the game image is displayed. The display device can be changed to the television 2. Note that after the game image is displayed on the television 2, the screen display of the terminal device 7 may be turned off.

なお、ゲームシステム1においては、テレビ2に対する赤外線リモコン信号を赤外線出力手段(マーカ装置6、マーカ部55、あるいは赤外線通信モジュール72)から出力可能であるようにしてもよい。これによれば、ゲーム装置3は、端末装置7に対する操作に応じて上記赤外線リモコン信号を赤外線出力手段から出力させることによって、テレビ2に対する操作を行うことができる。この場合、ユーザはテレビ2のリモコンを操作することなく、端末装置7を用いてテレビ2を操作することができるので、上記のようにテレビ2の入力を切り替える場合等において便利である。   In the game system 1, an infrared remote control signal for the television 2 may be output from the infrared output means (the marker device 6, the marker unit 55, or the infrared communication module 72). According to this, the game apparatus 3 can perform an operation on the television 2 by outputting the infrared remote control signal from the infrared output means in response to an operation on the terminal device 7. In this case, since the user can operate the television 2 using the terminal device 7 without operating the remote controller of the television 2, it is convenient when switching the input of the television 2 as described above.

(ネットワークを介して他の装置と通信を行う動作例)
上述のように、ゲーム装置3はネットワークに接続する機能を有しているので、ゲームシステム1は、ネットワークを介して外部装置と通信を行う場合にも利用することができる。図21は、ネットワークを介して外部装置と接続される場合におけるゲームシステム1に含まれる各装置の接続関係を示す図である。図21に示すように、ゲーム装置3は、外部装置201とネットワーク200を介して通信可能である。
(Operation example for communicating with other devices via network)
As described above, since the game apparatus 3 has a function of connecting to a network, the game system 1 can also be used when communicating with an external apparatus via the network. FIG. 21 is a diagram illustrating a connection relationship between devices included in the game system 1 when connected to an external device via a network. As shown in FIG. 21, the game apparatus 3 can communicate with the external apparatus 201 via the network 200.

上記のように外部装置201とゲーム装置3とが通信可能である場合、ゲームシステム1においては端末装置7をインターフェースとして外部装置201との間で通信を行うことができる。例えば、外部装置201と端末装置7との間で画像および音声を送受信することによって、ゲームシステム1をテレビ電話として使用することができる。具体的には、ゲーム装置3は、外部装置201からの画像および音声(電話相手の画像および音声)をネットワーク200を介して受信し、受信した画像および音声を端末装置7に送信する。これによって、端末装置7は、外部装置201からの画像をLCD51に表示するとともに、外部装置201からの音声をスピーカ67から出力する。また、ゲーム装置3は、カメラ56で撮像されたカメラ画像と、マイク69で検知されたマイク音声とを端末装置7から受信し、カメラ画像およびマイク音声をネットワーク200を介して外部装置201へ送信する。ゲーム装置3は、上記の画像および音声の送受信を外部装置201との間で繰り返すことによって、ゲームシステム1をテレビ電話として使用することができる。   When the external device 201 and the game device 3 can communicate as described above, the game system 1 can communicate with the external device 201 using the terminal device 7 as an interface. For example, the game system 1 can be used as a videophone by transmitting and receiving images and sound between the external device 201 and the terminal device 7. Specifically, the game device 3 receives an image and sound (image and sound of the telephone partner) from the external device 201 via the network 200 and transmits the received image and sound to the terminal device 7. Thereby, the terminal device 7 displays the image from the external device 201 on the LCD 51 and outputs the sound from the external device 201 from the speaker 67. In addition, the game apparatus 3 receives the camera image captured by the camera 56 and the microphone sound detected by the microphone 69 from the terminal device 7, and transmits the camera image and the microphone sound to the external apparatus 201 via the network 200. To do. The game apparatus 3 can use the game system 1 as a videophone by repeating the transmission and reception of the above image and sound with the external apparatus 201.

なお、本実施形態においては端末装置7は可搬型であるので、ユーザは、端末装置7を自由な位置で使用したり、カメラ56を自由な方向に向けたりすることができる。また、本実施形態においては端末装置7はタッチパネル52を備えているので、ゲーム装置3は、タッチパネル52に対する入力情報(タッチ位置データ100)を外部装置201へ送信することも可能である。例えば、外部装置201からの画像および音声を端末装置7で出力するとともに、ユーザがタッチパネル52上に書いた文字等を外部装置201へ送信する場合には、いわゆるeラーニングシステムとしてゲームシステム1を使用することも可能である。   In this embodiment, since the terminal device 7 is portable, the user can use the terminal device 7 at a free position or point the camera 56 in a free direction. In the present embodiment, since the terminal device 7 includes the touch panel 52, the game apparatus 3 can also transmit input information (touch position data 100) to the touch panel 52 to the external device 201. For example, when the terminal device 7 outputs an image and sound from the external device 201 and transmits a character or the like written on the touch panel 52 to the external device 201, the game system 1 is used as a so-called e-learning system. It is also possible to do.

(テレビ放送と連動した動作例)
また、ゲームシステム1は、テレビ2でテレビ放送が視聴されている場合に、テレビ放送と連動して動作することも可能である。すなわち、ゲームシステム1は、テレビ2でテレビ番組が視聴されている場合に、そのテレビ番組に関する情報等を端末装置7に出力させる。以下、ゲームシステム1がテレビ放送と連動して動作する場合の動作例を説明する。
(Example of operation linked with TV broadcasting)
The game system 1 can also operate in conjunction with the television broadcast when the television broadcast is being viewed on the television 2. That is, the game system 1 causes the terminal device 7 to output information on the television program when the television program is viewed on the television 2. Hereinafter, an operation example when the game system 1 operates in conjunction with television broadcasting will be described.

上記動作例においては、ゲーム装置3は、ネットワークを介してサーバと通信可能である(換言すれば、図21に示す外部装置201がサーバである。)。サーバは、テレビ放送に関連する種々の情報(テレビ情報)をテレビ放送のチャンネル毎に記憶している。このテレビ情報は、字幕や出演者情報等の番組に関する情報でもよいし、EPG(電子番組表)の情報や、データ放送として放送される情報でもよい。また、テレビ情報は、画像や、音声や、文字や、これらの組み合わせの情報であってもよい。また、サーバは1つである必要はなく、テレビ放送のチャンネル毎、あるいは番組毎にサーバが設置され、ゲーム装置3は各サーバと通信可能であってもよい。   In the above operation example, the game apparatus 3 can communicate with a server via a network (in other words, the external apparatus 201 shown in FIG. 21 is a server). The server stores various information (television information) related to television broadcasting for each channel of television broadcasting. This television information may be information relating to a program such as subtitles or performer information, EPG (electronic program guide) information, or information broadcast as a data broadcast. The television information may be information on images, sounds, characters, or a combination thereof. Further, the number of servers does not have to be one, and a server may be installed for each television broadcast channel or each program, and the game apparatus 3 may be able to communicate with each server.

テレビ2においてテレビ放送の映像・音声が出力されている場合において、ゲーム装置3は、視聴中のテレビ放送のチャンネルを端末装置7を用いてユーザに入力させる。そして、入力されたチャンネルに対応するテレビ情報を送信するように、ネットワークを介してサーバに要求する。これに応じて、サーバは上記チャンネルに対応するテレビ情報のデータを送信する。サーバから送信されてくるデータ受信すると、ゲーム装置3は、受信したデータを端末装置7へ出力する。端末装置7は、上記データのうち画像および文字のデータをLCD51に表示し、音声のデータをスピーカから出力する。以上によって、ユーザは、現在視聴中のテレビ番組に関する情報等を端末装置7を用いて享受することができる。   When television broadcast video / audio is output on the television 2, the game apparatus 3 causes the user to input the television broadcast channel being viewed using the terminal device 7. And it requests | requires of a server via a network to transmit the television information corresponding to the input channel. In response to this, the server transmits television information data corresponding to the channel. When the data transmitted from the server is received, the game apparatus 3 outputs the received data to the terminal device 7. The terminal device 7 displays image and character data among the above data on the LCD 51, and outputs audio data from the speaker. As described above, the user can enjoy information on the TV program currently being viewed using the terminal device 7.

上記のように、ゲームシステム1は、ネットワークを介して外部装置(サーバ)と通信を行うことによって、テレビ放送と連動した情報を端末装置7によってユーザに提供することも可能である。特に、本実施形態では端末装置7は可搬型であるので、ユーザは自由な位置で端末装置7を使用することができ、利便性が高い。   As described above, the game system 1 can provide the user with information linked to the television broadcast by the terminal device 7 by communicating with the external device (server) via the network. In particular, in this embodiment, since the terminal device 7 is portable, the user can use the terminal device 7 at a free position, which is highly convenient.

以上のように、本実施形態においては、ユーザは、ゲームに使用する他にも、種々の用途・形態で端末装置7を使用することができる。   As described above, in the present embodiment, the user can use the terminal device 7 for various purposes and forms in addition to being used for the game.

[8.変形例]
上記実施形態は本発明を実施する一例であり、他の実施形態においては例えば以下に説明する構成で本発明を実施することも可能である。
[8. Modified example]
The above-described embodiment is an example for carrying out the present invention. In other embodiments, the present invention can be implemented with, for example, the configuration described below.

(複数の端末装置を有する変形例)
上記実施形態においては、ゲームシステム1は端末装置を1つのみ有する構成であったが、ゲームシステム1は複数の端末装置を有する構成であってもよい。すなわち、ゲーム装置3は、複数の端末装置とそれぞれ無線通信可能であり、ゲーム画像のデータとゲーム音声のデータと制御データとを各端末装置へ送信し、操作データとカメラ画像データとマイク音データとを各端末装置から受信するものであってもよい。なお、ゲーム装置3は、複数の端末装置のそれぞれと無線通信を行うが、このとき、ゲーム装置3は、各端末装置との無線通信を時分割で行ってもよいし、周波数帯域を分割して行ってもよい。
(Modification example having a plurality of terminal devices)
In the above embodiment, the game system 1 has only one terminal device, but the game system 1 may have a plurality of terminal devices. That is, the game apparatus 3 can wirelessly communicate with a plurality of terminal apparatuses, transmits game image data, game sound data, and control data to each terminal apparatus, and operates data, camera image data, and microphone sound data. May be received from each terminal device. The game device 3 performs wireless communication with each of the plurality of terminal devices. At this time, the game device 3 may perform wireless communication with each terminal device in a time-sharing manner, or divide the frequency band. You may go.

上記のように複数の端末装置を有する場合には、ゲームシステムを用いてより多くの種類のゲームを行うことができる。例えば、ゲームシステム1が2つの端末装置を有する場合には、ゲームシステム1は3つの表示装置を有することになるので、3人のプレイヤのそれぞれのためのゲーム画像を生成し、各表示装置に表示させることができる。また、ゲームシステム1が2つの端末装置を有する場合には、コントローラと端末装置とを1組として用いるゲーム(例えば上記第5のゲーム例)において、2人のプレイヤが同時にゲームを行うことができる。さらに、2つのコントローラから出力されるマーカ座標データに基づいて上記ステップS27のゲーム処理が行われる場合には、コントローラをマーカ(マーカ装置6またはマーカ部55)に向けて行うゲーム操作を2人のプレイヤがそれぞれ行うことができる。すなわち、一方のプレイヤは、マーカ装置6の方へコントローラを向けてゲーム操作を行い、他方のプレイヤは、マーカ部55の方へコントローラを向けてゲーム操作を行うことができる。   When having a plurality of terminal devices as described above, more types of games can be played using the game system. For example, when the game system 1 has two terminal devices, the game system 1 has three display devices. Therefore, a game image for each of three players is generated, and each display device has Can be displayed. Further, when the game system 1 has two terminal devices, two players can play a game simultaneously in a game using the controller and the terminal device as a set (for example, the fifth game example). . Further, when the game process of step S27 is performed based on the marker coordinate data output from the two controllers, two game operations are performed to point the controller toward the marker (marker device 6 or marker unit 55). Each player can do it. That is, one player can perform a game operation with the controller directed toward the marker device 6, and the other player can perform a game operation with the controller directed toward the marker unit 55.

(端末装置の機能に関する変形例)
上記実施形態においては、端末装置7は、ゲーム処理を実行しない、いわゆるシンクライアント端末として機能するものであった。ここで、他の実施形態においては、上記実施形態においてゲーム装置3によって実行される一連のゲーム処理のうち、一部の処理は端末装置7等の他の装置によって実行されてもよい。例えば、一部の処理(例えば、端末用ゲーム画像の生成処理)を端末装置7が実行するようにしてもよい。また例えば、互いに通信可能な複数の情報処理装置(ゲーム装置)を有するゲームシステムにおいて、当該複数の情報処理装置がゲーム処理を分担して実行するようにしてもよい。
(Modifications related to terminal device functions)
In the above embodiment, the terminal device 7 functions as a so-called thin client terminal that does not execute game processing. Here, in other embodiments, some of the series of game processes executed by the game apparatus 3 in the above embodiment may be executed by another apparatus such as the terminal apparatus 7. For example, the terminal device 7 may execute a part of processing (for example, processing for generating a game image for a terminal). Further, for example, in a game system having a plurality of information processing devices (game devices) that can communicate with each other, the plurality of information processing devices may share and execute game processing.

以上のように、本発明は、新規なゲーム操作をプレイヤに行わせること等を目的として、例えばゲームシステムやゲームシステムに用いられる端末装置等として利用することが可能である。   As described above, the present invention can be used as, for example, a game system or a terminal device used in a game system for the purpose of causing a player to perform a new game operation.

1 ゲームシステム
2 テレビ
3 ゲーム装置
4 光ディスク
5 コントローラ
6 マーカ装置
7 端末装置
10 CPU
11e 内部メインメモリ
12 外部メインメモリ
19 コントローラ通信モジュール
28 端末通信モジュール
35 撮像情報演算部
37 加速度センサ
44 無線モジュール
48 ジャイロセンサ
51 LCD
52 タッチパネル
53 アナログスティック
54 操作ボタン
55 マーカ部
56 カメラ
62 磁気センサ
63 加速度センサ
64 ジャイロセンサ
66 コーデックLSI
67 スピーカ
69 マイク
70 無線モジュール
90 コントローラ操作データ
97 端末操作データ
98 カメラ画像データ
99 マイク音データ
DESCRIPTION OF SYMBOLS 1 Game system 2 Television 3 Game device 4 Optical disk 5 Controller 6 Marker device 7 Terminal device 10 CPU
11e Internal main memory 12 External main memory 19 Controller communication module 28 Terminal communication module 35 Imaging information calculation unit 37 Acceleration sensor 44 Wireless module 48 Gyro sensor 51 LCD
52 Touch Panel 53 Analog Stick 54 Operation Button 55 Marker Unit 56 Camera 62 Magnetic Sensor 63 Acceleration Sensor 64 Gyro Sensor 66 Codec LSI
67 Speaker 69 Microphone 70 Wireless module 90 Controller operation data 97 Terminal operation data 98 Camera image data 99 Microphone sound data

Claims (20)

据置型のゲーム装置と、操作装置と、可搬型表示装置とを含むゲームシステムであって、
前記ゲーム装置は、
前記操作装置から操作データを受信する操作データ受信部と、
前記操作データに基づいてゲーム処理を実行するゲーム処理部と、
前記ゲーム処理に基づいて第1ゲーム画像を逐次生成するゲーム画像生成部と、
前記第1ゲーム画像を前記可搬型表示装置へ無線で逐次送信するゲーム画像送信部とを備え、
前記操作装置は、自機に対する操作を表す操作データを前記ゲーム装置へ無線で送信する操作データ送信部を備え、
前記可搬型表示装置は、
前記ゲーム装置から前記第1ゲーム画像を逐次受信するゲーム画像受信部と、
前記第1ゲーム画像を逐次表示する表示部とを備える、ゲームシステム。
A game system including a stationary game device, an operation device, and a portable display device,
The game device includes:
An operation data receiving unit for receiving operation data from the operation device;
A game processing unit that executes game processing based on the operation data;
A game image generation unit that sequentially generates a first game image based on the game process;
A game image transmission unit that wirelessly sequentially transmits the first game image to the portable display device;
The operation device includes an operation data transmission unit that wirelessly transmits operation data representing an operation on the own device to the game device,
The portable display device is:
A game image receiving unit for sequentially receiving the first game image from the game device;
A game system comprising: a display unit that sequentially displays the first game image.
前記ゲーム装置は、前記第1ゲーム画像を逐次圧縮して圧縮画像データを生成するゲーム画像圧縮部をさらに備え、
前記ゲーム画像送信部は、前記圧縮画像データを前記可搬型表示装置へ無線で逐次送信し、
前記ゲーム画像受信部は、前記ゲーム装置から前記圧縮画像データを逐次受信し、
前記可搬型表示装置は、前記圧縮画像データを逐次伸張して前記第1ゲーム画像を得るゲーム画像伸張部をさらに備え、
前記表示部は、伸張によって得られた前記第1ゲーム画像を逐次表示する、請求項1に記載のゲームシステム。
The game apparatus further includes a game image compression unit that sequentially compresses the first game image to generate compressed image data,
The game image transmission unit wirelessly sequentially transmits the compressed image data to the portable display device,
The game image receiving unit sequentially receives the compressed image data from the game device,
The portable display device further includes a game image expansion unit that sequentially expands the compressed image data to obtain the first game image,
The game system according to claim 1, wherein the display unit sequentially displays the first game image obtained by expansion.
前記操作装置は、赤外光を検知可能な撮像部を備え、
前記操作データ送信部は、前記撮像部による検知結果を表すデータを含む操作データを前記ゲーム装置へ無線で送信し、
前記可搬型表示装置は、赤外線を発光可能な赤外発光部をさらに備える、請求項1または請求項2に記載のゲームシステム。
The operating device includes an imaging unit capable of detecting infrared light,
The operation data transmission unit wirelessly transmits operation data including data representing a detection result by the imaging unit to the game device,
The game system according to claim 1, wherein the portable display device further includes an infrared light emitting unit capable of emitting infrared light.
前記ゲームシステムは、赤外光を発光可能なマーカ装置をさらに含み、
前記ゲーム画像生成部は、前記ゲーム処理に基づいて第2ゲーム画像をさらに生成し、
前記ゲーム装置は、
前記可搬型表示装置とは別体の外部表示装置へ前記第2ゲーム画像を逐次出力する画像出力部と、
前記マーカ装置の発光を制御する発光制御部とをさらに備える、請求項1から請求項3のいずれか1項に記載のゲームシステム。
The game system further includes a marker device capable of emitting infrared light,
The game image generation unit further generates a second game image based on the game process,
The game device includes:
An image output unit for sequentially outputting the second game image to an external display device separate from the portable display device;
The game system according to claim 1, further comprising a light emission control unit that controls light emission of the marker device.
前記ゲームシステムは、2つの操作装置を含み、
前記ゲーム処理部は、各操作装置から受信した操作データに基づいてゲーム処理を実行する、請求項4に記載のゲームシステム。
The game system includes two operation devices,
The game system according to claim 4, wherein the game processing unit executes a game process based on operation data received from each operation device.
前記発光制御部は、前記ゲーム処理の内容に応じて前記マーカ装置および前記赤外発光部の発光を制御する、請求項4または請求項5に記載のゲームシステム。   The game system according to claim 4, wherein the light emission control unit controls light emission of the marker device and the infrared light emitting unit according to the content of the game process. 前記発光制御部は、前記赤外発光部による発光に対する制御指示を表す制御データを生成し、
前記データ送信部は、前記制御データを前記前記可搬型表示装置へ無線で送信し、
前記可搬型表示装置は、前記ゲーム装置から前記制御データを受信する制御データ受信部をさらに備え、
前記赤外発光部は、受信された制御データに従って動作する、請求項6に記載のゲームシステム。
The light emission control unit generates control data representing a control instruction for light emission by the infrared light emission unit,
The data transmission unit wirelessly transmits the control data to the portable display device,
The portable display device further includes a control data receiving unit that receives the control data from the game device,
The game system according to claim 6, wherein the infrared light emitting unit operates according to received control data.
ゲーム装置と無線通信可能な可搬型の表示装置であって、
前記ゲーム装置は、赤外光を検知可能な撮像部を備える操作装置から前記撮像部による検知結果を表すデータを受信し、当該データに基づいて実行されるゲーム処理に基づいて生成されるゲーム画像を前記表示装置へ逐次送信し、
前記表示装置は、
赤外線を発光可能な赤外発光部と、
前記ゲーム装置から前記ゲーム画像を逐次受信するゲーム画像受信部と、
前記ゲーム画像を逐次表示する表示部とを備える、表示装置。
A portable display device capable of wireless communication with a game device,
The game device receives data representing a detection result by the imaging unit from an operation device including an imaging unit capable of detecting infrared light, and is generated based on a game process executed based on the data Are sequentially transmitted to the display device,
The display device
An infrared light emitting part capable of emitting infrared light;
A game image receiving unit for sequentially receiving the game images from the game device;
And a display unit that sequentially displays the game images.
前記ゲーム装置は、前記ゲーム画像を逐次圧縮して圧縮画像データを生成し、当該圧縮画像データを前記可搬型表示装置へ無線で逐次送信し、
前記表示装置は、前記圧縮画像データを逐次伸張して前記第1ゲーム画像を得るゲーム画像伸張部をさらに備え、
前記表示部は、伸張によって得られた前記第1ゲーム画像を逐次表示する、請求項8に記載の表示装置。
The game device sequentially compresses the game image to generate compressed image data, and sequentially transmits the compressed image data to the portable display device,
The display device further includes a game image expansion unit that sequentially expands the compressed image data to obtain the first game image,
The display device according to claim 8, wherein the display unit sequentially displays the first game image obtained by expansion.
前記表示部の画面に設けられるタッチパネルと、
慣性センサと、
前記タッチパネルおよび前記慣性センサの出力データを含む操作データを前記ゲーム装置へ無線で送信する操作データ送信部とをさらに備え、
前記ゲーム装置は、前記操作データに基づいて前記ゲーム処理を実行する、請求項8または請求項9に記載の表示装置。
A touch panel provided on the screen of the display unit;
An inertial sensor;
An operation data transmission unit that wirelessly transmits operation data including output data of the touch panel and the inertial sensor to the game device;
The display device according to claim 8, wherein the game device executes the game process based on the operation data.
前記表示装置はマイクをさらに備え、
前記操作データ送信部は、前記マイクが検知した音のデータを前記ゲーム装置へ無線でさらに送信する、請求項10に記載の表示装置。
The display device further includes a microphone,
The display device according to claim 10, wherein the operation data transmission unit further wirelessly transmits sound data detected by the microphone to the game device.
カメラと、
前記カメラが撮像したカメラ画像を圧縮して圧縮撮像データを生成するカメラ画像圧縮部とをさらに備え、
前記操作データ送信部は、前記圧縮撮像データを前記ゲーム装置へ無線でさらに送信する、請求項10に記載の表示装置。
A camera,
A camera image compression unit that compresses a camera image captured by the camera and generates compressed image data;
The display device according to claim 10, wherein the operation data transmission unit further transmits the compressed imaging data to the game device wirelessly.
前記表示部の画面が設けられる表平面において当該画面の両側に設けられる複数の表面操作ボタンと、
前記表平面において前記画面の両側に設けられ、方向を指示可能な方向入力部とを備え、
前記操作データは、前記複数の表面操作ボタンおよび前記方向入力部に対する操作を表すデータをさらに含む、請求項10に記載の表示装置。
A plurality of surface operation buttons provided on both sides of the screen on the surface where the screen of the display unit is provided;
A direction input unit provided on both sides of the screen on the front plane and capable of indicating a direction;
The display device according to claim 10, wherein the operation data further includes data representing operations on the plurality of surface operation buttons and the direction input unit.
前記表示部の画面が設けられる表平面の反対側の裏平面に設けられる複数の裏面操作ボタンと、
前記表平面と前記裏平面との間の側面に設けられる複数の側面操作ボタンとをさらに備え、
前記操作データは、前記複数の裏面操作ボタンおよび側面操作ボタンに対する操作を表すデータをさらに含む、請求項10に記載の表示装置。
A plurality of back surface operation buttons provided on the back surface opposite to the front surface on which the screen of the display unit is provided;
A plurality of side operation buttons provided on a side surface between the front plane and the back plane;
The display device according to claim 10, wherein the operation data further includes data representing operations on the plurality of back surface operation buttons and the side surface operation buttons.
磁気センサをさらに備え、
前記操作データは前記磁気センサの検出結果のデータをさらに含む、請求項10に記載の表示装置。
A magnetic sensor,
The display device according to claim 10, wherein the operation data further includes data of a detection result of the magnetic sensor.
前記慣性センサは、3軸の加速度センサおよび3軸のジャイロセンサである、請求項10に記載の表示装置。   The display device according to claim 10, wherein the inertial sensor is a triaxial acceleration sensor and a triaxial gyro sensor. 前記ゲーム装置は、前記ゲーム処理に基づいて生成されるゲーム音声を前記表示装置へ無線で送信し、
前記ゲーム音声を前記ゲーム装置から受信するゲーム音声受信部と、
前記ゲーム音声受信部によって受信されたゲーム音声を出力するスピーカとをさらに備える、請求項8から請求項16のいずれか1項に記載の表示装置。
The game device wirelessly transmits game sound generated based on the game process to the display device,
A game sound receiving unit for receiving the game sound from the game device;
The display device according to any one of claims 8 to 16, further comprising a speaker that outputs game sound received by the game sound receiving unit.
据置型のゲーム装置と、操作装置と、可搬型表示装置とを含むゲームシステムにおいて実行されるゲーム処理方法であって、
前記操作装置は、自機に対する操作を表す操作データを前記ゲーム装置へ無線で送信する操作データ送信ステップを実行し、
前記ゲーム装置は、
前記操作装置から操作データを受信する操作データ受信ステップと、
前記操作データに基づいてゲーム処理を実行するゲーム処理ステップと、
前記ゲーム処理に基づいてゲーム画像を逐次生成するゲーム画像生成ステップと、
前記ゲーム画像を前記可搬型表示装置へ無線で逐次送信するゲーム画像送信ステップとを実行し、
前記可搬型表示装置は、
前記ゲーム装置から前記ゲーム画像を逐次受信するゲーム画像受信ステップと、
前記ゲーム画像を逐次表示する表示ステップとを実行する、ゲーム処理方法。
A game processing method executed in a game system including a stationary game device, an operation device, and a portable display device,
The operation device executes an operation data transmission step of wirelessly transmitting operation data representing an operation on the own device to the game device,
The game device includes:
An operation data receiving step for receiving operation data from the operation device;
A game processing step for executing a game process based on the operation data;
A game image generation step for sequentially generating game images based on the game processing;
A game image transmission step of sequentially transmitting the game image to the portable display device wirelessly;
The portable display device is:
A game image receiving step for sequentially receiving the game images from the game device;
A game processing method for executing a display step of sequentially displaying the game images.
前記ゲーム装置は、前記第1ゲーム画像を逐次圧縮して圧縮画像データを生成するゲーム画像圧縮ステップをさらに実行し、
前記ゲーム画像送信ステップにおいては、前記圧縮画像データが前記可搬型表示装置へ無線で逐次送信され、
前記ゲーム画像受信ステップにおいては、前記ゲーム装置からの前記圧縮画像データが逐次受信され、
前記可搬型表示装置は、前記圧縮画像データを逐次伸張して前記第1ゲーム画像を得るゲーム画像伸張ステップをさらに実行し、
前記表示ステップにおいては、伸張によって得られた前記第1ゲーム画像が逐次表示される、請求項18に記載のゲーム処理方法。
The game device further executes a game image compression step of sequentially compressing the first game image to generate compressed image data,
In the game image transmission step, the compressed image data is sequentially transmitted wirelessly to the portable display device,
In the game image receiving step, the compressed image data from the game device is sequentially received,
The portable display device further executes a game image expansion step of sequentially expanding the compressed image data to obtain the first game image,
The game processing method according to claim 18, wherein in the display step, the first game images obtained by expansion are sequentially displayed.
前記操作装置は、赤外光を検知可能な撮像部を備え、
前記操作データ送信ステップにおいては、前記撮像部による検知結果を表すデータを含む操作データが前記ゲーム装置へ無線で送信され、
前記可搬型表示装置は、赤外線を発光可能な赤外発光部をさらに備える、請求項18または請求項19に記載のゲーム処理方法。
The operating device includes an imaging unit capable of detecting infrared light,
In the operation data transmission step, operation data including data representing a detection result by the imaging unit is wirelessly transmitted to the game device,
The game processing method according to claim 18, wherein the portable display device further includes an infrared light emitting unit capable of emitting infrared light.
JP2011168063A 2011-08-01 2011-08-01 Display device, game system and game processing method Pending JP2012096005A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011168063A JP2012096005A (en) 2011-08-01 2011-08-01 Display device, game system and game processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011168063A JP2012096005A (en) 2011-08-01 2011-08-01 Display device, game system and game processing method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010245299A Division JP4798809B1 (en) 2010-02-03 2010-11-01 Display device, game system, and game processing method

Publications (1)

Publication Number Publication Date
JP2012096005A true JP2012096005A (en) 2012-05-24

Family

ID=46388622

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011168063A Pending JP2012096005A (en) 2011-08-01 2011-08-01 Display device, game system and game processing method

Country Status (1)

Country Link
JP (1) JP2012096005A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5122035B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and communication method
JP5122037B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and information processing method
JP5122036B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and communication method
JP2013246814A (en) * 2012-09-26 2013-12-09 Nintendo Co Ltd Operation device, information processing system, and communication method
US9126114B2 (en) 2011-11-09 2015-09-08 Nintendo Co., Ltd. Storage medium, input terminal device, control system, and control method

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09294260A (en) * 1996-04-26 1997-11-11 Sega Enterp Ltd Communication processing unit, terminal equipment, communication system, game system participated by many persons using the communication system and communication method
JP2001034247A (en) * 1999-07-19 2001-02-09 Minolta Co Ltd Video display device
JP2005032268A (en) * 2004-08-05 2005-02-03 Sony Computer Entertainment Inc Input position detecting device and entertainment system
JP2005137405A (en) * 2003-11-04 2005-06-02 Nintendo Co Ltd Game system and game program
JP2005311807A (en) * 2004-04-23 2005-11-04 Fuji Photo Film Co Ltd Mobile telephone
JP2007299706A (en) * 2006-05-02 2007-11-15 Alps Electric Co Ltd Operation device and game controller
JP2008264402A (en) * 2007-04-24 2008-11-06 Nintendo Co Ltd Game system and information processing system
JP2010066899A (en) * 2008-09-09 2010-03-25 Sony Computer Entertainment Inc Input device
JP2010142561A (en) * 2008-12-22 2010-07-01 Nintendo Co Ltd Game apparatus, and game program

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09294260A (en) * 1996-04-26 1997-11-11 Sega Enterp Ltd Communication processing unit, terminal equipment, communication system, game system participated by many persons using the communication system and communication method
JP2001034247A (en) * 1999-07-19 2001-02-09 Minolta Co Ltd Video display device
JP2005137405A (en) * 2003-11-04 2005-06-02 Nintendo Co Ltd Game system and game program
JP2005311807A (en) * 2004-04-23 2005-11-04 Fuji Photo Film Co Ltd Mobile telephone
JP2005032268A (en) * 2004-08-05 2005-02-03 Sony Computer Entertainment Inc Input position detecting device and entertainment system
JP2007299706A (en) * 2006-05-02 2007-11-15 Alps Electric Co Ltd Operation device and game controller
JP2008264402A (en) * 2007-04-24 2008-11-06 Nintendo Co Ltd Game system and information processing system
JP2010066899A (en) * 2008-09-09 2010-03-25 Sony Computer Entertainment Inc Input device
JP2010142561A (en) * 2008-12-22 2010-07-01 Nintendo Co Ltd Game apparatus, and game program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
佐伯憲司: ""見た目も中身も機能アップ! 進化を感じさせるニンテンドーDSiレポート"", GAME WATCH, JPN6014031978, 1 November 2008 (2008-11-01), JP, ISSN: 0002865138 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9126114B2 (en) 2011-11-09 2015-09-08 Nintendo Co., Ltd. Storage medium, input terminal device, control system, and control method
US8599135B1 (en) 2012-05-25 2013-12-03 Nintendo Co., Ltd. Controller device, information processing system, and communication method
EP2706432A1 (en) * 2012-05-25 2014-03-12 Nintendo Co., Ltd. Operation device, information processing system, and information processing method
WO2013175629A1 (en) * 2012-05-25 2013-11-28 任天堂株式会社 Operation device, information processing system, and communication method
WO2013175630A1 (en) * 2012-05-25 2013-11-28 任天堂株式会社 Operation device, information processing system, and communication method
WO2013175631A1 (en) * 2012-05-25 2013-11-28 任天堂株式会社 Operation device, information processing system, and information processing method
JP5122035B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and communication method
US10429961B2 (en) 2012-05-25 2019-10-01 Nintendo Co., Ltd. Controller device, information processing system, and information processing method
JP5122036B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and communication method
US8749489B2 (en) 2012-05-25 2014-06-10 Nintendo Co., Ltd. Controller device, information processing system, and communication method
EP2706432A4 (en) * 2012-05-25 2015-01-07 Nintendo Co Ltd Operation device, information processing system, and information processing method
US9030410B2 (en) 2012-05-25 2015-05-12 Nintendo Co., Ltd. Controller device, information processing system, and information processing method
JP5122037B1 (en) * 2012-05-25 2013-01-16 任天堂株式会社 Operating device, information processing system, and information processing method
US9615048B2 (en) 2012-05-25 2017-04-04 Nintendo Co., Ltd. Controller device, information processing system, and communication method
JP2013246814A (en) * 2012-09-26 2013-12-09 Nintendo Co Ltd Operation device, information processing system, and communication method

Similar Documents

Publication Publication Date Title
KR101287696B1 (en) Game system, controller device, and game process method
KR101492310B1 (en) Operating apparatus and information processing apparatus
TWI442963B (en) Controller device and information processing device
TWI541051B (en) Game system,controller device,and game process method
JP6188766B2 (en) Operating device and operating system
JP5829020B2 (en) GAME SYSTEM, GAME DEVICE, GAME PROGRAM, AND GAME PROCESSING METHOD
US9022862B2 (en) Computer-readable storage medium having stored therein information processing program, information processing apparatus, information processing system, and information processing method
JP4798809B1 (en) Display device, game system, and game processing method
JP5756299B2 (en) GAME SYSTEM, GAME DEVICE, GAME PROGRAM, AND GAME PROCESSING METHOD
JP5829040B2 (en) GAME SYSTEM, GAME DEVICE, GAME PROGRAM, AND IMAGE GENERATION METHOD
JP6103677B2 (en) GAME SYSTEM, OPERATION DEVICE, AND GAME PROCESSING METHOD
US9101839B2 (en) Computer-readable storage medium having stored therein game program, game apparatus, game system, and game processing method
JP2012096005A (en) Display device, game system and game processing method
JP5936315B2 (en) Information processing system and information processing apparatus
KR20130020715A (en) Operating apparatus and operating system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130920

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150727

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160415

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20160426

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20160617