JP6104288B2 - Method for generating surgical simulation model, surgical simulation method, and surgical simulator - Google Patents
Method for generating surgical simulation model, surgical simulation method, and surgical simulator Download PDFInfo
- Publication number
- JP6104288B2 JP6104288B2 JP2015000847A JP2015000847A JP6104288B2 JP 6104288 B2 JP6104288 B2 JP 6104288B2 JP 2015000847 A JP2015000847 A JP 2015000847A JP 2015000847 A JP2015000847 A JP 2015000847A JP 6104288 B2 JP6104288 B2 JP 6104288B2
- Authority
- JP
- Japan
- Prior art keywords
- simulated
- surgical
- organ
- image
- living body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Description
本発明は、内視鏡下で手術をする前に手術シミュレーションをするための手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータに関するものである。 The present invention relates to a method for generating a surgical simulation model for performing a surgical simulation before performing an operation under an endoscope, a surgical simulation method, and a surgical simulator.
医療技術と医療機器の進歩により、腹部手術の多くが腹腔鏡下に行われるようになってきた。腹腔鏡下手術は、3次元のものを2次元の画像表示装置を見ながら操作するので、その習得にはトレーニングが不可欠である。実際の腹腔鏡手術では患者毎に血管の本数や走行、臓器の位置関係、例えば腫瘍の位置や大きさが異なり、それぞれに対応した手術が要求される。
術前のシミュレーションを可能とするため、個々の患者の情報をもとにシミュレータが考えられる。
個々の患者の情報を取り入れるためには、CTやMRI等の医用画像データを用いるのが一般的であるが、このような画像には手術臓器周辺にある膜組織が映らないため認識できず、モデル化できない等の問題があり、それらを持たないモデルは術前シミュレーションとして不完全である。また、手術対象臓器の物理・力学的条件を線形に設定することが考えられるが、この場合は臓器の変形模擬が実際とは大きく異なることとなり、術前シミュレーションとして不満足なものであった。
With advances in medical technology and medical equipment, many abdominal operations have been performed laparoscopically. In laparoscopic surgery, a three-dimensional operation is performed while looking at a two-dimensional image display device, so training is essential for learning. In actual laparoscopic surgery, the number and running of blood vessels and the positional relationship of organs, such as the position and size of a tumor, differ for each patient, and surgery corresponding to each is required.
In order to enable preoperative simulation, a simulator can be considered based on individual patient information.
It is common to use medical image data such as CT and MRI in order to incorporate individual patient information, but such images cannot be recognized because the membrane tissue around the surgical organ is not reflected, There are problems such as inability to model, and models without them are incomplete as preoperative simulations. In addition, it is conceivable to set the physical and mechanical conditions of the organ to be operated linearly, but in this case, the deformation of the organ is greatly different from the actual one, which is unsatisfactory as a preoperative simulation.
また、シミュレーションとして国際公開第2008/032875号公報に記載のものがあるが、これは血小板血栓形成シミュレーションに関するものであり、用いるバネに加わる力が血液の粘性による力を模擬するものである。しかし、本願発明が手術シミュレーションに関するものである点、後述するように本願のバネに加わる力が模擬術具からの力を模擬する点で技術分野および模擬する対象とその目的、実現手段が異なるものである。 Moreover, although there exists a thing as described in international publication 2008/032875 as a simulation, this is related with platelet thrombus formation simulation, and the force added to the spring to be used simulates the force by the viscosity of blood. However, the technical field and the object to be simulated differ from the object and the means of realization in that the invention of the present application relates to a surgical simulation and the force applied to the spring of the present application simulates the force from the simulated surgical tool as will be described later. It is.
本発明が解決しようとする課題は、医用画像から手術状況に即したシミュレーション用モデルの生成方法、さらには手術シミュレーション方法、並びに手術シミュレータを提供するものである。 The problem to be solved by the present invention is to provide a method for generating a simulation model in accordance with a surgical situation from a medical image, a surgical simulation method, and a surgical simulator.
請求項1に係る手術シミュレーション用モデルの生成方法は、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、必要な臓器の3次元ボリュームデータを構築する第1の過程と、第1の過程の後、生成された3次元ボリュームデータの臓器をボリュームデータ構築部においてメッシングする第2の過程と、ボリュームデータ構築部において、前記メッシングされた臓器を覆う、医療用画像からは認識できない複数層の模擬膜を形成する第3の過程と、ボリュームデータ構築部において、前記メッシングされた臓器のメッシングにより接続する各節点間をバネ定数が非線形に設定され、模擬術具に応じた力を発生する仮想バネにより形成し配置する第4の過程とからなることを特徴とするからなることを特徴とするものである。
In the method for generating a surgical simulation model according to
請求項2に係る手術シミュレーション方法は、力覚装置が、手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚模擬過程と、模擬運動演算装置が、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層して3次元ボリュームデータとして構築しメッシングされた臓器及びメッシングされた臓器を覆う、医療用画像からは認識できない複数層の模擬膜にメッシングにより接続する各節点間をバネ定数が非線形に設定され、模擬術具に応じた力を発生する仮想バネで形成配置する手術シミュレーション用モデルデータを得て、前記力覚模擬過程による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して前記力覚模擬過程に与えるとともに模擬生体の反応との運動とを計算する模擬運動演算過程と、画像生成装置が、模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成過程と、画像表示装置が、前記画像生成過程により生成された画像を表示する画像表示過程とからなることを特徴とするものである。 The surgical simulation method according to claim 2 includes: a force sense simulation process in which a force sense device generates a reaction force according to a position of a surgical operation tool operated by an operator and a contact position with a simulated living body; Is an operation target, and the volume data construction unit needs to acquire geometric information from the original data of the medical image of the operation target person stored in the medical image data storage unit and be included in the original data of the medical image. the organ was extracted two-dimensionally, arranged according to the connection relationship defined of each organ, the further constructed meshing organs and meshing organ as a three-dimensional volume data by laminating these sliced images cover, from a medical image each node between the spring constants connected by meshing the simulated a plurality of films that can not be recognized is set to a non-linear, to generate a force corresponding to the simulated surgical instrument Obtain model data for surgical simulation to be formed and arranged with imaginary springs, and calculate the reaction force due to the movement of the surgical operation tool and the contact between the surgical operation tool and the simulated living body through the force simulation process and give it to the force simulation process And a simulated motion calculation process for calculating the motion of the simulated living body and the reaction, an image generating process for generating a simulated image of the simulated living body imaged from the simulated endoscope, and an image display device for the image And an image display process for displaying an image generated by the generation process.
請求項3に係る手術シミュレーション方法は、請求項2記載のものであって、模擬運動演算過程において、加えられた力による模擬生体の反応である位置変形が生体の物性値の変化に反映させ、反映された物性値により反力を計算することを特徴とするものである。
The surgical simulation method according to
請求項5に係る手術シミュレータは、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層して3次元ボリュームデータとして構築しメッシングされた臓器及びメッシングされた臓器を覆う、医療用画像からは認識できない複数層の模擬膜にメッシングにより接続する各節点間をバネ定数が非線形に設定され、模擬術具に応じた力を発生する仮想バネで形成配置する手術シミュレーション用モデルデータを得て、格納する手術シミュレーション用モデルデータ部と、手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚装置と、前記手術シミュレーション用モデルデータ部から手術シミュレーション用モデルデータを得て前記力覚装置による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して前記力覚装置に与えるとともに模擬生体の反応との運動とを計算する模擬運動演算装置と、前記模擬運動演算装置が計算し模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成装置と、前記画像生成装置により生成された画像を表示する画像表示装置とからなることを特徴とするものである。
The operation simulator according to
請求項6に係る手術シミュレータは、請求項5記載のものにおいて、模擬運動演算装置が、加えられた力による模擬生体の反応である位置変形が生体の物性値の変化に反映させ、反映された物性値により反力を計算することを特徴とするものである。 According to a sixth aspect of the present invention, in the surgical simulator according to the fifth aspect, the simulated motion calculation device reflects the position deformation, which is a reaction of the simulated living body due to the applied force, in the change in the physical property value of the living body. The reaction force is calculated from the physical property value.
請求項1に係る手術シミュレーション用モデルの生成方法によると、臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜のメッシングにより接続する各節点間を仮想バネにより形成し配置するから、臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜にバネの弾性が働き、臓器の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にするモデルを生成することができる。
According to the method for generating a surgical simulation model according to
請求項2に係る手術シミュレーション方法によると、模擬運動演算過程が、手術シミュレーション用モデルデータを得て力覚模擬過程による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して力覚過程に与えるとともに模擬生体の反応との運動とを計算する。このとき、手術シミュレーション用モデルデータは手術対象である臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜にメッシングにより接続する各節点間を仮想バネで形成配置するから、臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜にバネの弾性が働き、臓器の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にする。 According to the surgery simulation method according to claim 2, the simulation motion calculation process obtains model data for surgery simulation, and calculates the reaction force due to the movement of the surgery operation tool by the force sense simulation process and the contact between the surgery operation tool and the simulated living body. Then, it gives to the haptic process and calculates the reaction and movement of the simulated living body. Since this time, model data for surgical simulation covers the organs and organ is surgery subject, formed arranged in virtual springs between each node connected by meshing the simulated a plurality of films that can not be recognized by the medical image, organs and The elasticity of the spring acts on a plurality of layers of simulated membranes that cannot be recognized from a medical image covering the organ, improving the accuracy of organ deformation simulation, and enabling a surgical simulation with a high training effect.
請求項3に係る手術シミュレーション方法によると、加えられた力による模擬生体の反応である位置変形が生体の物性値の変化に反映させ、反映された物性値により反力を計算するから、大変形において、臓器の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にする。
According to the surgical simulation method according to
請求項5に係る手術シミュレータによると、手術シミュレーション用モデルデータ部が格納する手術シミュレーション用モデルデータに手術対象である臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜にメッシングにより接続する各節点間を仮想バネで形成配置するから、臓器及び臓器を覆う、医療用画像からは認識できない複数層の模擬膜にバネの弾性が働き、臓器の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にする。
According to the surgical simulator according to
請求項6に係る手術シミュレータによると、加えられた力による模擬生体の反応である位置変形が生体の物性値の変化に反映させ、反映された物性値により反力を計算するから、大変形において、臓器の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にする。
According to the surgery simulator according to
図1は手術シミュレーション用モデルの生成方法の第1の実施例を説明するフロー図、図2は手術シミュレーション用モデルの生成方法の第2の実施例を説明するフロー図、図3は手術シミュレーション方法の第1の実施例を説明するフロー図、図4は手術シミュレーション方法の第2の実施例を説明するフロー図、図5は手術シミュレータの実施例を説明する機能ブロック図である。
図5において、501は医療用画像データ格納部、502はボリュームデータ構築部、503は画像生成装置、504は画像表示装置、505は手術シミュレーション用モデルデータ部、506は力覚装置、507は模擬運動演算装置、508は手術操作具、509は模擬内視鏡、510は模擬鉗子である。
FIG. 1 is a flowchart illustrating a first embodiment of a method for generating a surgical simulation model, FIG. 2 is a flowchart illustrating a second embodiment of a method for generating a surgical simulation model, and FIG. 3 is a surgical simulation method. FIG. 4 is a flowchart for explaining the second embodiment of the surgical simulation method, and FIG. 5 is a functional block diagram for explaining the embodiment of the surgical simulator.
In FIG. 5, 501 is a medical image data storage unit, 502 is a volume data construction unit, 503 is an image generation device, 504 is an image display device, 505 is a model data unit for surgery simulation, 506 is a force sense device, and 507 is a simulation. Numeral 508 is a surgical operation tool, 509 is a simulated endoscope, and 510 is a simulated forceps.
まず、手術シミュレーション用モデルの生成方法を説明する。
医療用画像データ格納部501は例えば手術対象者の医療用画像の元データが格納されている。医療用画像の元データは、例えばCT,MRI等で撮像されている。医療用画像データは、ボリュームデータ構築部502において、画像生成装置503により画像生成される。これは、画像表示装置504に表示しながら、手術対象者の断面を細かくスライスし、臓器を含む生体の部位を撮影した医療用画像データの幾何学的な情報に基づき、生体の各部位(臓器)を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、3次元ボリュームデータを構成する(図1のP101)。3次元ボリュームデータは医療用画像データ格納部501の医療用画像の元データとは別の記憶領域に格納される。
First, a method for generating a surgical simulation model will be described.
The medical image data storage unit 501 stores, for example, original data of a medical image of a surgical subject. The original data of the medical image is captured by, for example, CT, MRI or the like. The medical image data is generated by the
操作者は、手術対象者の医療用画像データを医療用画像データ格納部501から読み出す。ボリュームデータ構築部502、画像生成装置503は読み出された目的の臓器を含む所定範囲の各臓器を抜き出し所定の位置関係で画像表示装置504に表示する。操作者は画像表示装置504に表示された臓器の中から目的の臓器を必要により移動・回転させる。
ボリュームデータには、臓器毎にIDが割り振られており、元のボリュームデータを
ID=F(x,y,z)、処理後をID=G(x,r,z)とかける。この移動・姿勢変換を行列RIDで表すと、FとGの関係は、RIDF=Gとなるので、G=RID −1FとしてGを求めることができる。この移動位置データは、手術シミュレーション用モデルデータ部505に記録される。
次に目的の臓器の前記移動に合わせて目的の臓器に連結する他の臓器を生成する。この他の臓器モデルデータは、手術シミュレーション用モデルデータ部505に記録される。
次に、ボリュームデータに対し、幾何情報を入力情報とし、解剖学的性質を元に、プログラムにより、四面体にメッシングして有限要素モデルを生成する(図1のP102)。
次に、ボリュームデータに対し、幾何情報を入力情報とし、解剖学的性質を元に、厚さを決定し、指定した臓器の周りに膜モデルを生成させる(図1のP103)。膜は、医療用画像からは認識できるものではないが、所定の臓器の周りに複数層で形成する。この膜は、所定臓器と膜及び各膜間の間隔を一定の距離又は間隔が異なる部分を有するように適当に配置する(図1のP103a,P103b)。
図6に示すように、過程P102でメッシングされた所定臓器601の表面各節点602a,602b,602c…から例えば法線方向に仮想線603a,603b,603c…を延ばし、前記仮想線603a,603b,603c…と過程P103により形成した模擬膜604a,604b,604c…との交点による膜面用節点605a,605b,605c…を形成し、この各仮想線603a,603b,603c…について前記所定臓器601の表面各節点602a,602b,602c…と膜面用節点605a,605b,605c…及び膜面用節点間を接続する仮想膜間用バネ606a,606b,606c…を配置し、さらに、各膜604a,604b,604c…の各面について前記膜面用節点605a,605b,605c…の間をメッシュ形成するように面方向バネ607a,607b,607c…を配置する(図1のP104)。仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…はバネモデルにより形成する。
このとき、各節点間に接続配置した仮想膜間用バネ606a,606b,606c…のバネ定数kが異なるもの(k=k1,k2…)を有するようにし、また、面方向バネ607a,607b,607c…のバネ定数Kが異なるもの(K=K1,K2…)を有するようにしてもよい(図1のP104a,P104b)。
そして、各節点間に接続配置した仮想膜間用バネ606a,606b,606c…と面方向バネ607a,607b,607c…に所定の張力又は伸びにより切断する物理定数を備えさせることもできる(図1のP104c)。
これら手術シミュレーション用モデルデータは手術シミュレーション用モデルデータ部505に記録格納される。
The operator reads out medical image data of the surgical subject from the medical image data storage unit 501. The volume
The volume data is assigned an ID for each organ, the original volume data is multiplied by ID = F (x, y, z), and the processed data is multiplied by ID = G (x, r, z). When this movement / posture conversion is represented by a matrix R ID , the relationship between F and G is R ID F = G, and therefore G can be obtained as G = R ID −1 F. This movement position data is recorded in the surgical simulation
Next, another organ connected to the target organ is generated in accordance with the movement of the target organ. The other organ model data is recorded in the surgical simulation
Next, geometric information is input to the volume data, and a finite element model is generated by meshing with a tetrahedron by a program based on anatomical properties (P102 in FIG. 1).
Next, for the volume data, geometric information is used as input information, the thickness is determined based on the anatomical properties, and a membrane model is generated around the designated organ (P103 in FIG. 1). The film is not recognizable from the medical image, but is formed of a plurality of layers around a predetermined organ. This membrane is appropriately arranged such that the predetermined organ and the membrane and the distance between each membrane have a constant distance or a portion having a different interval (P103a, P103b in FIG. 1).
As shown in FIG. 6,
At this time, the virtual membrane springs 606a, 606b, 606c,... Connected between the nodes have different spring constants k (k = k1, k2,...), And surface springs 607a, 607b,. 607c... May have different spring constants K (K = K1, K2...) (P104a, P104b in FIG. 1).
The virtual intermembrane springs 606a, 606b, 606c... And the surface springs 607a, 607b, 607c... Connected between the nodes can be provided with physical constants that are cut by a predetermined tension or elongation (FIG. 1). P104c).
These surgical simulation model data are recorded and stored in the surgical simulation
次に、所定の臓器の大変形に対し高精度に模擬できることを意図した手術シミュレーション用モデルの生成法について図2により説明する。
図2において、過程P201,P202の内容は、図1における過程101,P102と同様である。
次に、過程P203において、四面体にメッシングした所定臓器の有限要素モデルについて、メッシングにより接続する各節点間を仮想バネ701a,701b,701c…により形成しこれを配置する(図7)。仮想バネ701a,701b,701c…は、バネモデルにより形成し、臓器内部の節点間についても、実施例1と同様にバネ定数が異なるものを含むように構成することができる。また、各節点間に接続配置した仮想バネ701a,701b,701c…に所定の張力又は伸びにより切断する物理定数を備えさせることもできる。このとき、各仮想バネ701a,701b,701c…の加える力と伸びに対する特性が直線でなく、一つのバネが例えば図8のように上に凸の非線形のものとし、所定の張力又は伸びにより切断するものとする。
これら手術シミュレーション用モデルデータは手術シミュレーション用モデルデータ部505に記録格納される。
Next, a method for generating a surgical simulation model intended to be able to simulate a large deformation of a predetermined organ with high accuracy will be described with reference to FIG.
In FIG. 2, the contents of steps P201 and P202 are the same as steps 101 and P102 in FIG.
Next, in the process P203, for the finite element model of the predetermined organ meshed with the tetrahedron, the nodes connected by meshing are formed by virtual springs 701a, 701b, 701c,... (FIG. 7). The virtual springs 701a, 701b, 701c,... Can be formed by a spring model, and can also be configured so as to include those having different spring constants in the organs as in the first embodiment. Further, the virtual springs 701a, 701b, 701c,... Connected between the nodes can be provided with physical constants that are cut by a predetermined tension or elongation. At this time, the force and elongation characteristics applied by the virtual springs 701a, 701b, 701c,... Are not linear, and one spring is, for example, a non-linear one convex upward as shown in FIG. It shall be.
These surgical simulation model data are recorded and stored in the surgical simulation
次に、実施例1において構成した手術シミュレーション用モデルデータを用いてシミュレーションを行うこと及びその実施するため装置について説明する。実施例装置は図5で説明した装置が用いられる。
手術対象である臓器にそれを覆う、医療用画像からは認識できない複数層の模擬膜組織を備え当該臓器及び模擬膜の生体組織の力学的性質を設定した手術シミュレーション用モデルデータを手術シミュレーション用モデルデータ部505から読み出し、画像生成装置503で当該臓器を含む画像を生成し、画像表示装置504で表示する。
手術者が手術操作具508の一つである模擬鉗子510を操作して、模擬生体である模擬膜に接触し、模擬鉗子510の狭持面で模擬膜を引っ張る。模擬鉗子510の位置と模擬膜との接触位置に応じた反力を力覚装置506により発生され、力覚装置506を介して模擬鉗子510にフィードバックされる。(P301)
模擬鉗子510に与えられる反力は、仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…のバネ定数と模擬鉗子510の移動位置とにより、模擬運動演算装置507が計算し、力覚装置506に引っ張り力を発生させて、模擬する。このとき、模擬膜をはさむ模擬鉗子510の狭持面の位置により模擬鉗子のグリップ力が異なり、このグリップ力は、模擬運動演算装置507により計算される。模擬鉗子510が膜を引っ張りときの模擬膜の伸び又は張力が所定以上に達すると仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…が切断し、模擬膜が剥がれることを模擬することができる。(P302)
手術シミュレーションの間、画像生成装置503は、模擬運動演算装置507が計算する模擬鉗子510と模擬膜との移動運動に基づく位置により、模擬内視鏡から撮像したように模擬膜を含む模擬生体と模擬鉗子を含む手術操作具508の運動模擬画像を生成する。(P303)
この模擬画像は、画像表示装置504に表示され、手術者はこの画像を見ながら、手術シミュレーションを行う。(P304)
Next, a description will be given of a simulation using the surgical simulation model data configured in the first embodiment and an apparatus for carrying out the simulation. The apparatus described in FIG. 5 is used as the embodiment apparatus.
Surgery simulation model data that has multiple layers of simulated membrane tissue that covers the organ to be operated on and cannot be recognized from medical images, and sets the mechanical properties of the organ and the living tissue of the simulated membrane The data is read from the
The surgeon operates the simulated forceps 510 that is one of the surgical operation tools 508 to contact the simulated membrane that is the simulated living body, and pulls the simulated membrane with the holding surface of the simulated forceps 510. A reaction force corresponding to the position of the simulated forceps 510 and the contact position of the simulated membrane is generated by the
The reaction force applied to the simulated forceps 510 is determined by the simulated
During the surgical simulation, the
The simulated image is displayed on the
次に、実施例2において構成した手術シミュレーション用モデルデータを用いてシミュレーションを行うこと及びその実施するため装置について説明する。実施例装置は図5で説明した装置が用いられる。
手術対象である臓器にメッシングにより接続する各節点間を仮想バネで形成配置する手術シミュレーション用モデルデータを手術シミュレーション用モデルデータ部505から読み出し、画像生成装置503で当該臓器を含む画像を生成し、画像表示装置504で表示する。
手術者が手術操作具508の一つである模擬鉗子510を操作して、模擬生体である臓器に接触し、模擬鉗子510の狭持面で模擬臓器を押す又は引っ張る。模擬鉗子510の位置と模擬臓器との接触位置に応じた反力を力覚装置506により発生される。(P401)
模擬鉗子510に与えられる反力は、バネ定数が非線形に設定されている仮想バネ701a,701b,701c…のバネ定数と模擬鉗子の移動位置とにより、模擬運動演算装置507が計算し、力覚装置506に圧縮力又は引っ張り力を発生させて、模擬する。このとき、医療用画像からは認識できない模擬膜をはさむ模擬鉗子の狭持面の位置により模擬鉗子のグリップ力が異なり、このグリップ力は、模擬運動演算装置507により計算される。
高精度に生体の変形を模擬するために、主要臓器の変形モデルに、非線形FEM(有限要素法)を用いる。
非線形処理を、区分的に線形化することにより、実時間で、非線形処理を行う。従来の線形計算モデルは、変位が少ないことを前提として、変位ベクトルを<U>、質量マトリクスを<M>、粘性抵抗マトリクスを<C>、剛性マトリクスを<K>、外力を<f>としたとき以下の絶対表示で示される。(本明細書で、<a>はaのベクトル、マトリクスを表示し、太字とともに用いる。)
今、物体(臓器等)に鉗子等の模擬術具(手術操作具)により力を加えたとする。すると、物体が変形して応力を発生しこの表面力と、模擬術具による力が釣り合った状態で変形が止まり、平衡状態に達する。ここで、更に力を加えると、次の釣り合う表面力を発生するまで変形し、次の平衡状態で安定する。実時間の処理では、これを、高速に繰り返している。
このような動的な計算を想定した場合、1フレーム前の剛性マトリクス(応力発生の元となる情報)と現在の剛性マトリクスの差は少ないと考えられる(即ち、区分的には線形化される)。特に、手術シミュレータでは操作が比較的緩やかである。従って、1フレーム前の位置(<U>k−1)に対応する剛性マトリクス<K>i、とΔ<u>k iを用いて、
従って、処理は、
処理(1)から処理(7)全体を式(4)とする。
但し、添え字kは計算時刻、αiはi番目の要素の加速度、fiは同外力、viは同速度、uiは同変位、Kfiは剛性力である。図9に<Kf>,<K(<U>)>,<U>の関係を示す。また、<Uk>は、各要素に対応したui kを積み重ねて、
uk=(u1 k,u2 k,…uN k) (5)
としたものである。但し、Nは有限要素数である。
処理(6)におけるKi kをui kを用いて計算することは、以下の式を用いる。
KiはKeと表示して、
上記式(4)の処理により、形状に応じた剛性マトリクス<K>の再構成と、模擬運動演算装置507上での更新を、実時間で実施する。(P403)
手術シミュレーションの間、画像生成装置503は、模擬運動演算装置507が計算する模擬鉗子510と模擬臓器との移動運動に基づく位置により、模擬内視鏡から撮像したように模擬臓器を含む模擬生体と模擬鉗子を含む手術操作具508の運動模擬画像を生成する。(P403)
この模擬画像は、画像表示装置504に表示され、手術者はこの画像を見ながら、手術シミュレーションを行う。(P404)
Next, a description will be given of a simulation using the surgical simulation model data configured in the second embodiment and an apparatus for carrying out the simulation. The apparatus described in FIG. 5 is used as the embodiment apparatus.
Read out from the surgical simulation
The surgeon operates the simulated forceps 510 that is one of the surgical operation tools 508 to contact an organ that is a simulated living body, and pushes or pulls the simulated organ with the holding surface of the simulated forceps 510. A reaction force corresponding to the position of the simulated forceps 510 and the contact position of the simulated organ is generated by the
The reaction force applied to the simulated forceps 510 is calculated by the simulated
In order to simulate the deformation of a living body with high accuracy, a nonlinear FEM (finite element method) is used for a deformation model of a main organ.
Nonlinear processing is performed in real time by piecewise linearizing the nonlinear processing. The conventional linear calculation model is based on the assumption that the displacement is small. The displacement vector is <U>, the mass matrix is <M>, the viscous resistance matrix is <C>, the stiffness matrix is <K>, and the external force is <f>. It is indicated by the following absolute display. (In this specification, <a> represents a vector and matrix of a, and is used with bold characters.)
Assume that force is applied to an object (organ etc.) with a simulated surgical instrument (surgical operation tool) such as forceps. Then, the object is deformed to generate stress, and the deformation stops in a state where the surface force and the force by the simulated surgical tool are balanced, and an equilibrium state is reached. Here, when a further force is applied, it is deformed until the next balanced surface force is generated, and is stabilized in the next equilibrium state. In real-time processing, this is repeated at high speed.
When such a dynamic calculation is assumed, it is considered that there is little difference between the stiffness matrix one frame before (information on which stress is generated) and the current stiffness matrix (that is, linearized piecewise). ). In particular, the operation is relatively gentle in the operation simulator. Therefore, using the stiffness matrix <K> i and Δ <u> k i corresponding to the position (<U> k−1 ) one frame before,
Therefore, the process is
Process (1) to process (7) as a whole is represented by equation (4).
However, the subscript k is calculated time, the alpha i i-th element of the acceleration, f i is Dogairyoku, v i is the velocity, u i is the displacement, K fi is rigidity. FIG. 9 shows the relationship between <K f >, <K (<U>)>, and <U>. Also, <U k > is a stack of u i k corresponding to each element,
u k = (u 1 k , u 2 k ,... u N k ) (5)
It is what. However, N is the number of finite elements.
The following formula is used to calculate K i k in process (6) using u i k .
K i is displayed as K e
Through the processing of the above formula (4), the reconstruction of the stiffness matrix <K> corresponding to the shape and the update on the simulated
During the surgical simulation, the
The simulated image is displayed on the
501:医療用画像データ格納部、502:ボリュームデータ構築部、
503:画像生成装置、504:画像表示装置、
505:手術シミュレーション用モデルデータ部、506:力覚装置、
507:模擬運動演算装置、508:手術操作具、509:模擬内視鏡、
510:模擬鉗子、601:所定臓器、602a,602b,602c…:表面各節点、
603a,603b,603c…:仮想線、
604a,604b,604c…:模擬膜、
605a,605b,605c…:膜面用節点、
606a,606b,606c…:仮想膜間用バネ、
607a,607b,607c…:面方向バネ。
501: medical image data storage unit, 502: volume data construction unit,
503: Image generation device, 504: Image display device,
505: Model data part for surgery simulation, 506: Force sense device,
507: Simulated motion calculation device, 508: Surgical operation tool, 509: Simulated endoscope,
510: Simulated forceps, 601: predetermined organ, 602a, 602b, 602c ...: each node on the surface,
603a, 603b, 603c ...: Virtual line,
604a, 604b, 604c ...: Simulated membrane,
605a, 605b, 605c ...: Membrane surface nodes,
606a, 606b, 606c ...: Virtual intermembrane spring,
607a, 607b, 607c...: Plane direction spring.
Claims (7)
第1の過程の後、生成された3次元ボリュームデータの臓器をボリュームデータ構築部においてメッシングする第2の過程と、
ボリュームデータ構築部において、前記メッシングされた臓器を覆う、医療用画像からは認識できない複数層の模擬膜を形成する第3の過程と、
ボリュームデータ構築部において、前記メッシングされた臓器のメッシングにより接続する各節点間をバネ定数が非線形に設定され、模擬術具に応じた力を発生する仮想バネにより形成し配置する第4の過程とからなることを特徴とする手術シミュレーション用モデルの生成方法。 In the volume data construction unit, geometric information is obtained from the original data of the medical image of the surgical subject stored in the medical image data storage unit, and necessary organs included in the original data of the medical image are two-dimensionally extracted A first step of arranging the sliced images according to the determined connection relationship of each organ and further stacking these sliced images to construct the required three-dimensional volume data of the organ;
After the first step, a second step of meshing the generated three-dimensional volume data organ in the volume data construction unit;
In the volume data construction unit, a third process of forming a plurality of layers of simulated films that cover the meshed organ and cannot be recognized from a medical image;
In a volume data construction unit, a fourth process of forming and arranging a virtual spring that generates a force corresponding to a simulated surgical tool, in which a spring constant is set nonlinearly between nodes connected by meshing of the meshed organ, A method for generating a surgical simulation model, comprising:
模擬運動演算装置が、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層して3次元ボリュームデータとして構築しメッシングされた臓器及びメッシングされた臓器を覆う、医療用画像からは認識できない複数層の模擬膜にメッシングにより接続する各節点間をバネ定数が非線形に設定され、模擬術具に応じた力を発生する仮想バネで形成配置する手術シミュレーション用モデルデータを得て、前記力覚模擬過程による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して前記力覚模擬過程に与えるとともに模擬生体の反応との運動とを計算する模擬運動演算過程と、
画像生成装置が、模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成過程と、
画像表示装置が、前記画像生成過程により生成された画像を表示する画像表示過程とからなることを特徴とする手術シミュレーション方法。 A force sense simulation process in which the force sense device generates a reaction force according to the position of the surgical operation tool operated by the operator and the contact position with the simulated living body;
The simulated motion calculation device is an operation target, and the volume data construction unit acquires geometric information from the original data of the medical image of the operation target person stored in the medical image data storage unit, and the original data of the medical image Necessary contained organs are extracted two-dimensionally, arranged according to the determined connection relationship of each organ, and these sliced images are stacked to construct three-dimensional volume data and meshed organs and meshing A spring constant is set nonlinearly between nodes connected by meshing to multiple layers of simulated membranes that cover the organs that cannot be recognized from medical images. Model data for surgical simulation is obtained, and the reaction force due to the movement of the surgical operation tool by the force simulation process and the contact between the surgical operation tool and the simulated living body is measured. A simulated exercise calculation process of calculating the motion of the reaction of the simulated bio-together given to the force sense simulated process and,
An image generation process in which an image generation device generates a simulated image of a simulated living body imaged from a simulated endoscope;
An operation simulation method, wherein the image display device includes an image display process for displaying an image generated by the image generation process.
手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚装置と、
前記手術シミュレーション用モデルデータ部から手術シミュレーション用モデルデータを得て前記力覚装置による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して前記力覚装置に与えるとともに模擬生体の反応との運動とを計算する模擬運動演算装置と、
前記模擬運動演算装置が計算し模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成装置と、
前記画像生成装置により生成された画像を表示する画像表示装置とからなることを特徴とする手術シミュレータ。 The volume data construction unit obtains geometric information from the original data of the medical image of the surgical subject stored in the medical image data storage unit, and acquires necessary organs included in the original data of the medical image. Two-dimensionally extracted, arranged according to the determined connection relationship of each organ, and further laminated these sliced images to construct three-dimensional volume data to cover the meshed organ and the meshed organ. Model data for surgical simulation in which spring constants are set non-linearly between the nodes connected by meshing to multiple layers of simulated membranes that cannot be recognized from medical images, and are formed and arranged with virtual springs that generate forces according to the simulated surgical tools Obtaining and storing a model data part for surgical simulation,
A force sense device that generates a reaction force according to the position of the surgical operation tool operated by the surgeon and the position of contact with the simulated living body;
Obtaining the surgical simulation model data from the surgical simulation model data section, calculating the reaction force due to the movement of the surgical operation tool by the force sense device and the contact between the surgical operation tool and the simulated living body, and giving it to the force sense device A simulated motion calculation device that calculates the motion of the simulated biological reaction and motion;
An image generating device that generates a simulated image of a simulated living body calculated by the simulated motion calculation device and imaged from a simulated endoscope;
An operation simulator comprising an image display device for displaying an image generated by the image generation device.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015000847A JP6104288B2 (en) | 2015-01-06 | 2015-01-06 | Method for generating surgical simulation model, surgical simulation method, and surgical simulator |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015000847A JP6104288B2 (en) | 2015-01-06 | 2015-01-06 | Method for generating surgical simulation model, surgical simulation method, and surgical simulator |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2009136898A Division JP5761900B2 (en) | 2009-06-08 | 2009-06-08 | Method for generating surgical simulation model, surgical simulation method, and surgical simulator |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2015127965A JP2015127965A (en) | 2015-07-09 |
| JP6104288B2 true JP6104288B2 (en) | 2017-03-29 |
Family
ID=53837903
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015000847A Active JP6104288B2 (en) | 2015-01-06 | 2015-01-06 | Method for generating surgical simulation model, surgical simulation method, and surgical simulator |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6104288B2 (en) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106875462B (en) * | 2017-01-13 | 2020-07-07 | 北京航空航天大学 | A real-time digital organ cutting method based on metasphere model and hybrid drive method |
| WO2019164271A1 (en) * | 2018-02-20 | 2019-08-29 | (주)휴톰 | Virtual body model generation method and device |
| KR102014359B1 (en) * | 2018-02-20 | 2019-08-26 | (주)휴톰 | Method and apparatus for providing camera location using surgical video |
| CN108846022A (en) * | 2018-05-24 | 2018-11-20 | 沈阳东软医疗系统有限公司 | File memory method, document conversion method, device, equipment and storage medium |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10111958A (en) * | 1996-10-04 | 1998-04-28 | Olympus Optical Co Ltd | Simulation system using computer graphics and model representing method of simulation system |
| WO2007015365A1 (en) * | 2005-08-01 | 2007-02-08 | National University Corporation NARA Institute of Science and Technology | Information processing device and program |
| JP5187665B2 (en) * | 2006-09-15 | 2013-04-24 | 学校法人慶應義塾 | Platelet thrombus formation simulator |
| JP2008134373A (en) * | 2006-11-28 | 2008-06-12 | Mitsubishi Precision Co Ltd | Method and system of preparing biological data for operation simulation, operation simulation method, and operation simulator |
| WO2008072756A1 (en) * | 2006-12-13 | 2008-06-19 | National Institute Of Advanced Industrial Science And Technology | Reaction force presentation method and force presentation system |
-
2015
- 2015-01-06 JP JP2015000847A patent/JP6104288B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015127965A (en) | 2015-07-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5761900B2 (en) | Method for generating surgical simulation model, surgical simulation method, and surgical simulator | |
| JP6104288B2 (en) | Method for generating surgical simulation model, surgical simulation method, and surgical simulator | |
| EP3285144B1 (en) | System and method for haptic interaction with virtual objects | |
| Basdogan et al. | VR-based simulators for training in minimally invasive surgery | |
| Delingette et al. | A hybrid elastic model allowing real-time cutting, deformations and force-feedback for surgery training and simulation | |
| US20170213480A1 (en) | System and method for performing virtual surgery | |
| CN104783821B (en) | Method for the spatial model of the dissection of the body part that provides patient | |
| JP6440135B1 (en) | Medical information virtual reality server, medical information virtual reality program, and medical information virtual reality data creation method | |
| CN106156398A (en) | For the operating equipment of area of computer aided simulation and method | |
| Guo et al. | Virtual reality simulators based on a novel robotic catheter operating system for training in minimally invasive surgery | |
| Park et al. | A new tactile transfer cell using magnetorheological materials for robot-assisted minimally invasive surgery | |
| JP2008134373A (en) | Method and system of preparing biological data for operation simulation, operation simulation method, and operation simulator | |
| JP6457785B2 (en) | Biological texture model production method and biological texture model production program | |
| JP2008292534A (en) | Method and device for simulating cutting motion in operation, method and device for determining contact in simulated operation, and database structure for simulating cutting motion in operation | |
| Mack et al. | Interactive force-sensing feedback system for remote robotic laparoscopic surgery | |
| Sanchez-Molina et al. | A microcontinuum model for mechanical properties of esophageal tissue: experimental methodology and constitutive analysis | |
| Bruyns et al. | Measurements of soft-tissue mechanical properties to support development of a physically based virtual animal model | |
| Lahanas et al. | A simple sensor calibration technique for estimating the 3D pose of endoscopic instruments | |
| Hassan et al. | A pneumatically-actuated mouse for delivering multimodal haptic feedback | |
| JP5977041B2 (en) | Numerical simulation apparatus and computer program therefor | |
| Aloisio et al. | A Training Simulator for the Angioplasty Intervention with a Web Portal for the Virtual Environment Searching | |
| Yang et al. | Bayesian estimation of non-rigid mechanical parameters using temporal sequences of deformation samples | |
| Chanthasopeephan | Characterization of soft tissue cutting for haptic display: experiments and computational models | |
| Nikodem et al. | Application of image processing and virtual reality Technologies in Simulation of laparoscopic procedures | |
| Piazzolla et al. | Extended Position-Based Dynamics Virtual Reality Simulator for Thoracoscopic Surgery Training |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151111 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160112 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160309 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20160906 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161125 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20161205 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170224 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170228 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6104288 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |