[go: up one dir, main page]

WO2018163356A1 - 情報処理装置、プログラム - Google Patents

情報処理装置、プログラム Download PDF

Info

Publication number
WO2018163356A1
WO2018163356A1 PCT/JP2017/009500 JP2017009500W WO2018163356A1 WO 2018163356 A1 WO2018163356 A1 WO 2018163356A1 JP 2017009500 W JP2017009500 W JP 2017009500W WO 2018163356 A1 WO2018163356 A1 WO 2018163356A1
Authority
WO
WIPO (PCT)
Prior art keywords
moving image
user
information processing
correcting
image data
Prior art date
Application number
PCT/JP2017/009500
Other languages
English (en)
French (fr)
Inventor
正基 花原
拓伸 ▲吉▼川
和 高橋
雅人 小助川
Original Assignee
株式会社 資生堂
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社 資生堂 filed Critical 株式会社 資生堂
Priority to JP2019504224A priority Critical patent/JP6967065B2/ja
Priority to KR1020197027976A priority patent/KR102316143B1/ko
Priority to PCT/JP2017/009500 priority patent/WO2018163356A1/ja
Priority to US16/484,633 priority patent/US11812183B2/en
Priority to TW106134388A priority patent/TWI742173B/zh
Publication of WO2018163356A1 publication Critical patent/WO2018163356A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8166Monomedia components thereof involving executable data, e.g. software
    • H04N21/8173End-user applications, e.g. Web browser, game
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • H04N2005/2726Means for inserting a foreground image in a background image, i.e. inlay, outlay for simulating a person's appearance, e.g. hair style, glasses, clothes

Definitions

  • the present invention relates to an information processing apparatus and a program.
  • the user of the video call can improve the quality of communication by providing his / her moving image to the other user.
  • Patent Document 1 discloses a technique for providing a moving image of a user in a format desired by a counterpart user.
  • the user may feel resistance to providing his / her moving image (for example, a face image and a background image).
  • his / her moving image for example, a face image and a background image.
  • female users tend to participate in video calls with audio alone, without providing their own moving images.
  • An object of the present invention is to promote the use of moving images in video calls.
  • One embodiment of the present invention provides: Means for correcting the luminance of the first moving image data acquired by the camera; Means for recognizing a first moving image including at least a part of a user's face and a second moving image not including the face in the first moving image data having the corrected brightness; Means for correcting the recognized second moving image; Means for generating second moving image data including the first moving image included in the first moving image data whose luminance has been corrected and the corrected second moving image; Means for providing said second video data to a video call application; Information processing apparatus.
  • FIG. 5 is a detailed flowchart of generation of the second moving image data of FIG. 4.
  • the figure which shows the example of a screen displayed in the information processing of this embodiment. The figure which shows the example of a screen displayed in the information processing of this embodiment.
  • the figure which shows the example of a screen displayed in the information processing of this embodiment The figure which shows the example of a screen displayed in the information processing of this embodiment.
  • the figure which shows the example of a screen displayed in the information processing of this embodiment The figure which shows the data structure of the makeup pattern database of the modification 3.
  • FIG. 1 is a block diagram showing the configuration of the information processing system of this embodiment.
  • the information processing system 1 includes a client terminal 10 and a server 30.
  • the client terminal 10 and the server 30 are connected via a network (for example, the Internet or an intranet) NW.
  • NW a network
  • the client terminal 10 is an example of an information processing apparatus that transmits a request to the server 30.
  • the client terminal 10 is, for example, a smartphone, a tablet terminal, or a personal computer.
  • the server 30 is an example of an information processing apparatus that transmits a response according to a request to the client terminal 10.
  • the server 30 is, for example, a web server.
  • the client terminal 10 includes a storage device 11, a CPU (Central Processing Unit) 12, an input / output interface 13, a communication interface 14, a camera 15, and a microphone 16.
  • a CPU Central Processing Unit
  • the storage device 11 is configured to store a program and data.
  • the storage device 11 is, for example, a combination of ROM (Read Only Memory), RAM (Random Access Memory), and storage (for example, flash memory or hard disk).
  • the program is, for example, an OS (Operating System) program or an application program that executes information processing.
  • the application includes a virtual camera application 120 and a video call application 121.
  • the data includes, for example, the following data.
  • information processing-Image processing library for example, an image recognition algorithm for recognizing a specific part in the image based on the feature amount of the image, a luminance correction parameter for optimizing the luminance of the image, , Image processing filter to be applied to the image
  • -Data obtained by executing information processing (that is, information processing execution results)
  • the CPU 12 is an example of a computer.
  • the input / output interface 13 is configured to receive a user instruction from an input device connected to the client terminal 10 and to output information to an output device connected to the client terminal 10.
  • the input device is, for example, a keyboard, a pointing device, a touch panel, or a combination thereof.
  • the output device is, for example, a display.
  • the communication interface 14 is configured to control communication between the client terminal 10 and the server 30.
  • the camera 15 is configured to acquire moving image data.
  • the camera 15 captures at least part of a moving image (hereinafter referred to as “first moving image”) of the face of the user of the client terminal 10, thereby moving image data including the first moving image (hereinafter referred to as “first moving image data”). Get).
  • the microphone 16 is configured to acquire audio data.
  • FIG. 2 is a diagram illustrating functions of applications installed in the client terminal of FIG.
  • the CPU 12 is a processor that realizes the function of the virtual camera application 120 and the function of the video call application 121.
  • the virtual camera application 120 is configured to generate the second moving image data by correcting the first moving image data and to provide the second moving image data to the video call application 121.
  • the function of the virtual camera application 120 may be a function independent of the function of the video call application 121 or may be a part of the function of the video call application 121.
  • the video call application 121 is configured to transmit video data to the server 30 via the communication interface 14.
  • the video data includes second moving image data and audio data.
  • the server 30 is configured to control the video call sequence.
  • video data is shared among the plurality of client terminals 10.
  • FIG. 3 is a diagram illustrating a data structure of the makeup pattern database according to the present embodiment.
  • the makeup pattern database includes a “pattern ID” field, a “pattern name” field, and a “correction parameter” field. Each field is associated with each other.
  • the “correction parameter” field includes correction parameters for correcting an image for each part of the face and a background image. Specifically, the “correction parameter” field includes a “lip” field, a “wrinkle” field, an “eye” field, a “lash hair” field, a “cheek” field, and a “background” field. .
  • Correction parameters ID “CP1” to “CP6” are associated with each field.
  • the correction parameter ID is information for identifying a correction parameter.
  • the makeup pattern database is stored in the storage device 11.
  • the pattern ID is stored in the “pattern ID” field.
  • the pattern ID is information for identifying the makeup pattern.
  • the makeup pattern is a combination of correction parameters for correcting an image of each part of the user's face.
  • pattern name information (for example, text) indicating the name of the makeup pattern is stored.
  • a correction parameter is stored in the “correction parameter” field.
  • a correction parameter for correcting a lip image for example, at least one of lipstick density, glossiness, gloss level, and pearliness
  • a correction parameter for correcting an image of the eyelid for example, at least one of eye shadow density, glossiness, gloss level, and pearliness
  • the “eye” field stores correction parameters for correcting an eye image (for example, eye shape).
  • correction parameters for correcting an image of the eyelash for example, density of mascara
  • the “cheek” field stores correction parameters for correcting a cheek image (for example, cheek density). The higher the numerical value of each field, the higher the level of makeup (for example, density) applied to each part of the first moving image.
  • correction parameters for correcting the second moving image are stored.
  • the correction parameters for correcting the second moving image include, for example, at least one of the following.
  • a correction parameter for correcting the blur level of the second moving image for example, the higher the blur level, the lower the visibility of the second moving image (that is, the less visible to the user)
  • a correction parameter for changing the color of the second moving image for example, a value indicating a gray scale or a level of transparency
  • a correction parameter for applying mosaic processing to the second moving image for example, a value indicating the level of mosaic processing
  • Correction parameters for synthesizing another image with the second moving image for example, a value indicating the ratio of images to be synthesized
  • FIG. 4 is a flowchart of information processing according to this embodiment.
  • FIG. 5 is a detailed flowchart of the generation of the second moving image data of FIG. 6 to 12 are diagrams showing examples of screens displayed in the information processing of this embodiment.
  • 4 and 5 are functions of the virtual camera application 120 in FIG.
  • the client terminal 10 executes acquisition of first moving image data (S100). Specifically, when the user instructs activation of the virtual camera application 120, the CPU 12 executes the program of the virtual camera application 120 and displays the screen P100 (FIG. 6) on the display.
  • S100 first moving image data
  • the screen P100 includes a region A100 and a button B100.
  • a face line L100 (FIG. 6A) and an image IMG100 (FIG. 6B) are displayed.
  • the image IMG 100 is a preview image corresponding to the moving image data acquired by the camera 15.
  • the button B100 is an object for receiving an instruction to acquire first moving image data.
  • the CPU 12 acquires from the camera 15 the first moving image data corresponding to the image IMG100 (FIG. 6B) displayed in the area A100. .
  • the client terminal 10 performs recognition of the first moving image and the second moving image (S101).
  • the CPU 12 uses the image recognition algorithm stored in the storage device 11, and based on the feature amount of the first moving image data acquired in step S100, the first moving image, the second moving image, Recognize
  • the second moving image is a moving image other than the first moving image in the first moving image data. That is, the second moving image is a moving image that does not include the user's face (for example, a moving image that includes the user's background).
  • the CPU 12 includes a facial part (for example, lips, eyelids, eyes, cheeks, nose, hairstyle, contour, eyebrows, and eyelashes) included in the first moving image. Recognize a facial part (for example, lips, eyelids, eyes, cheeks, nose, hairstyle, contour, eyebrows, and eyelashes) included in the first moving image. Recognize
  • step S101 the client terminal 10 generates the second moving image data (S102).
  • the client terminal 10 executes brightness correction (S1020).
  • the CPU 12 specifies the luminance of an image corresponding to a part of the face (for example, cheek) in the first moving image recognized in step S101.
  • the CPU 12 corrects the luminance of the first moving image and the second moving image (that is, the entire image of the first moving image data) so that the specified luminance is included in the predetermined range.
  • the CPU 12 displays the screen P101 (FIG. 7) on the display.
  • the screen P101 includes an area A101 and buttons B101a and B101b.
  • the button B101a is an object for receiving an instruction to change the luminance of the first moving image.
  • the CPU 12 changes the luminance of the first moving image to a value corresponding to the position of the button B101a.
  • the user can adjust the brightness of the entire image of the first moving image data by moving the button B101a.
  • the button B101b is an object for receiving an instruction to determine the brightness of the first moving image.
  • step S1020 ends.
  • An image IMG101 is displayed in the area A101.
  • Image IMG101 is a preview image of the first moving image after the luminance is corrected.
  • the CPU 12 displays the screen P102 (FIG. 8) on the display.
  • the screen P102 includes an area A102 and buttons B102a to B102h.
  • An image IMG102 is displayed in the area A102.
  • Buttons B102a to B102e are objects for receiving a makeup pattern instruction.
  • Pattern IDs “MP001” to “MP005” (FIG. 3) are assigned to the buttons B102a to B102e, respectively.
  • the CPU 12 makes up the makeup pattern identified by the pattern ID assigned to the button designated by the user (that is, a combination of correction parameters corresponding to the button designated by the user). Select.
  • the CPU 12 generates second moving image data by correcting the image of each part of the first moving image using the selected makeup pattern.
  • the image IMG102 in this case is a preview image of the first moving image after the makeup correction.
  • the button B102f is an object for receiving an instruction to change the correction parameter (S1023).
  • the button B102g is an object for receiving an instruction to cancel the makeup pattern correction. When the user designates the button B102g, the CPU 12 cancels the makeup pattern correction.
  • the image IMG102 in this case is the same as the preview image IMG101 (FIG. 7) of the first moving image.
  • the button B102h is an object for receiving an instruction to start the video call application 121. When the user designates the button B102h, the CPU 12 executes the video call application 121 program.
  • the CPU 12 displays the screen P103 (FIG. 8) on the display.
  • the screen P103 includes buttons B103a to B103c.
  • the button B103a is an object for receiving an instruction for customization of the makeup pattern (S1023a).
  • the button B103b is an object for receiving an instruction for filter correction (S1023b).
  • the button B103c is an object for receiving an instruction for background correction (S1023c).
  • the CPU 12 displays a screen P106 (FIG. 11) on the display.
  • the CPU 12 executes make-up pattern customization (S1023a). Specifically, the CPU 12 displays the screen P104 (FIG. 9) on the display.
  • the screen P104 includes an area A104 and buttons B104a to B104g.
  • an image IMG104 is displayed.
  • Image IMG 104 is a preview image of the first moving image corresponding to the corrected correction parameter.
  • the buttons B104a to B104e are objects for receiving instructions for correction parameters to be changed.
  • the correction parameters ID “CP1” to “CP5” in FIG. 3 are assigned to the buttons B104a to B104e, respectively.
  • the CPU 12 specifies the correction parameter to be changed.
  • the correction parameter to be changed is a correction parameter identified by a correction parameter ID assigned to the button designated by the user.
  • the button B104f is an object for accepting an instruction for the value of the corrected correction parameter.
  • the CPU 12 changes the correction parameter to be changed to a value corresponding to the position of the button B104f.
  • the user can adjust the correction parameter to be changed by moving the button B104f.
  • the button B104g is an object for receiving an instruction to save the corrected correction parameter.
  • the CPU 12 stores the changed correction parameter in the storage device 11.
  • the CPU 12 is associated with the pattern ID “MP005” in FIG.
  • the value of each field associated with the pattern ID “MP001” is copied to each field.
  • the CPU 12 updates the “lips” field associated with the pattern ID “MP005” using a value corresponding to the position of the button B 104f.
  • the client terminal 10 executes filter correction (S1023b). Specifically, the CPU 12 displays the screen P105 (FIG. 10) on the display.
  • the screen P105 includes an area A105 and buttons B105a to B105e.
  • Image IMG105 is displayed on area
  • Image IMG 105 is a preview image of the first moving image after filter correction.
  • the button B105a is an object for receiving an instruction to cancel the filter correction.
  • the CPU 12 does not execute the filter correction.
  • the image IMG 105 in this case is the same as the image IMG 102 (FIG. 8).
  • Buttons B105b to B105d are objects for receiving an instruction of an image processing filter.
  • Image processing filters “FILETR1” to “FILTER3” are assigned to the buttons B105b to B105d, respectively.
  • the image processing filter “FILETR1” adjusts the luminance, contrast, saturation, and color tone of the first moving image so that the contrast of the image corresponding to at least a part of the face (for example, cheek) is included in the predetermined range. Includes correction parameters for correction.
  • the image processing filter “FILETR2” has the luminance, contrast, saturation, and color tone of the first moving image so that the saturation of the image corresponding to at least a part of the face (for example, cheek) is included in the predetermined range.
  • the correction parameter for correcting is included.
  • the image processing filter “FILETR3” adjusts the luminance, contrast, saturation, and color tone of the first moving image so that the color tone of the image corresponding to at least a part of the face (for example, cheek) is included in the predetermined range. Includes correction parameters for correction.
  • the CPU 12 applies the image processing filter assigned to the button designated by the user to the first moving image.
  • the image IMG 105 is a preview image of the first moving image after the image processing filter is applied.
  • the button B105e is an object for receiving an instruction to confirm the filter correction.
  • the CPU 12 stores the correction parameter after the filter correction in each field associated with the pattern ID “MP005” (FIG. 3). Thereby, the makeup pattern after the filter correction is stored.
  • the CPU 12 uses the image processing filter assigned to the button B105b to specify the pattern ID.
  • the value of each field associated with “MP005” is changed.
  • the client terminal 10 executes background correction (S1023c). Specifically, the CPU 12 displays the screen P106 (FIG. 11) on the display.
  • the screen P106 includes an area A106 and buttons B106a and B106b.
  • the button B106a is an object for receiving an instruction to change the blur level of the second moving image.
  • the CPU 12 changes the blur level of the second moving image to a value corresponding to the position of the button B 106a.
  • the user can blur the background by moving the button B106a.
  • images IMG106a and IMG106b are displayed.
  • the image IMG 106a is a preview image of the first moving image.
  • the image IMG 106a does not change even when the button B 106a is moved.
  • the image IMG 106b is a preview image of the second moving image.
  • the blur level of the image IMG 106b changes according to the position of the button B 106a.
  • the button B106b is an object for receiving an instruction to determine the blur level.
  • the CPU 12 stores the blur level and the pattern ID “MP005” in the storage device 11 in association with each other.
  • the CPU 12 uses the value corresponding to the position of the button B106a to The “background” field associated with the pattern ID “MP005” is updated.
  • the client terminal 10 When the user designates the button B102h (FIG. 8) (S1022-NO), the client terminal 10 provides the second moving image data of FIG. 4 (S103).
  • the CPU 12 executes the program of the video call application 121 and displays the screen P110 (FIG. 12) on the display.
  • the screen P110 includes areas A110a and A110b and a button B110.
  • images IMG110a and IMG110b are displayed.
  • the image IMG 110a is the first moving image obtained in step S102 (FIG. 4).
  • the image IMG 110b is the second moving image obtained in step S102.
  • the user name of the partner user registered in advance in the video call application 121 is displayed.
  • the CPU 12 transmits a video call request to the server 30 via the communication interface 14.
  • the button B110 is an object for receiving an instruction of a request for starting a video call sequence (hereinafter referred to as “video call request”).
  • video call request an instruction of a request for starting a video call sequence
  • the server 30 When the partner user responds to the video call request, the server 30 starts a video call sequence.
  • video data is transmitted and received between the client terminal 10 of the user and the client terminal of the partner user.
  • the video data transmitted by the client terminal 10 includes second moving image data corresponding to the preview image displayed in the area A 110a.
  • the virtual camera application 120 continues to provide the second moving image data to the video call application 121 by executing the processing of FIG.
  • the brightness of the entire image of the second moving image data can be changed during the video call.
  • the makeup pattern can be changed during the video call.
  • steps S1020 to S1023 are in no particular order.
  • step S1021 can be omitted.
  • Step S1021 Step S1020 can be omitted.
  • At least one of steps S1023a to S1023c can be omitted.
  • the client terminal 10 In the background correction (S1023c), the client terminal 10 according to the first modification corrects the second moving image when the predetermined condition is satisfied regardless of the presence / absence of a user instruction.
  • the CPU 12 corrects the second moving image according to the ratio.
  • CPU12 correct
  • the moving image of the background can be blurred. As a result, it is possible to avoid providing only the background moving image to the destination user.
  • the client terminal 10 of the modification 2 may select a makeup pattern according to information related to the user (hereinafter referred to as “user information”) instead of the makeup pattern designated by the user in the makeup pattern correction (S1021). good.
  • user information is stored in the storage device 11.
  • the user information is, for example, at least one of the following information.
  • Information about the user's profile eg, user name, user's gender, and user's occupation
  • User's video call history eg, date and time of video call, profile of the other user of the video call, purpose of the video call ( As an example, information regarding conferences, lessons in foreign languages)
  • user action logs for example, information on cosmetics or clothes used by users, information on purchases of cosmetics or clothes purchased by users
  • Information related to the user's psychological state for example, stress level
  • User information is associated with the pattern ID.
  • CPU 12 selects the makeup pattern identified by the pattern ID associated with the user information in the makeup pattern correction (S1021).
  • a makeup pattern optimum for the user can be proposed to the user.
  • the client terminal 10 of the modification 3 does not update the makeup pattern database stored in the storage device 11 in the customization of the makeup pattern in FIG. 5 (S1023a), but includes the modified correction parameter. Is stored in the storage device of the server 30.
  • FIG. 13 is a diagram showing a data structure of a makeup pattern database according to the third modification.
  • FIG. 14 is a diagram illustrating an example of a screen displayed in the information processing of the third modification.
  • the makeup pattern database includes a “user ID” field, a “user name” field, and a “correction parameter” field. Each field is associated with each other.
  • the “correction parameter” field is the same as in FIG.
  • the user ID is stored in the “user ID” field.
  • the user ID is a division method for identifying the user.
  • the CPU 12a of the client terminal 10a used by the user (user name “USER1”), in the customization of the makeup pattern (S1023a), the makeup pattern including the modified correction parameter, the user ID “U001”, and the user name “U”. USER1 "is transmitted to the server 30.
  • the server 30 stores the makeup pattern, the user ID, and the user name transmitted from the client terminal 10a in association with each other.
  • step S1021 the CPU 12b of the client terminal 10b used by the user (user name “USER2”) displays the screen P200 (FIG. 14) on the display.
  • the screen P200 includes areas A200a and A200b and buttons B200a to B200c.
  • the user name of the user who has saved the makeup pattern in the server 30 is displayed.
  • a preview image of the first image of the user (user name “USER2”) when the makeup pattern is applied is displayed.
  • the buttons B200a and B200b are objects for receiving user instructions.
  • User IDs “U001” and “U003” for identifying the user who has stored the makeup pattern in the server 30 are assigned to the buttons B200a and B200b.
  • the CPU 12b selects a makeup pattern associated with the user ID assigned to the button designated by the user (user name “USER2”).
  • the CPU 12b uses the makeup pattern associated with the user ID “U001” in FIG.
  • the second moving image data is generated by correcting the image of each part.
  • a user can use a makeup pattern customized by another user.
  • the makeup pattern of Modification 4 includes a correction parameter for correcting at least one of the following parts in addition to the correction parameters of FIG. ⁇ Hairstyle, face outline, eyebrow shape, eyelash shape, nose shape, ⁇ Lip shape ⁇ Concentration of foundation
  • the client terminal 10 of Modification 5 fails to recognize the first moving image in step S101, the first moving image included in the first moving image data (that is, the face image that has not been subjected to make-up) is the other party. Avoid being offered to the user.
  • the case where the recognition has failed is, for example, a case where the recognition rate of the first moving image is equal to or less than a predetermined threshold.
  • the CPU 12 when the CPU 12 fails to recognize the first moving image in step S101, the CPU 12 does not execute the processes in steps S102 and S103. Thereby, when the recognition of the first moving image fails, the second moving image data is not provided to the client terminal 10 of the counterpart user. In this case, the display of the client terminal 10 of the partner user is blacked out.
  • the CPU 12 when the CPU 12 fails to recognize the first moving image in step S101, the CPU 12 does not execute the process of step S102, and is generated when the first moving image is successfully recognized in step S103. 2nd moving image data is provided. Thereby, when the recognition of the first moving image fails, the face image when the recognition of the first moving image is successful is displayed like a still image on the display of the client terminal 10 of the partner user.
  • the CPU 12 when the CPU 12 fails to recognize the first moving image in step S101, the CPU 12 performs the following for the first moving image and the second moving image (that is, the entire image of the first moving image data) in step S102.
  • the at least one correction parameter is changed so that the visibility of the entire image of the first moving image data is lowered.
  • -Correction parameter for correcting blur level-Correction parameter for changing color for example, a value indicating the level of conversion to gray scale or transparency
  • Correction parameters for applying mosaic processing for example, a value indicating the level of mosaic processing
  • Correction parameters for synthesizing another image for example, a value indicating the ratio of images to be synthesized
  • step S101 when the recognition of the first moving image fails in step S101, it is possible to avoid the face image that has not been subjected to the makeup being provided to the other user.
  • step S1020 the luminance of at least a part of the first moving image recognized in step S101 is corrected.
  • the CPU 12 specifies the luminance of an image corresponding to a part of the face (for example, cheek) in the first moving image recognized in step S101. Next, the CPU 12 corrects the overall brightness of the first moving image or the specified brightness so that the specified brightness is included in the predetermined range.
  • Modification 7 Modification 7 will be described.
  • the modified example 7 is an example in which the virtual camera application 120 changes the setting value of the camera 15.
  • the CPU 12 of the modified example 7 includes the specified luminance within a predetermined range.
  • the setting value of the camera 15 is changed.
  • the CPU 12 sets the camera 15 based on the correction parameter included in the image processing filter “FILTER1” assigned to the button B105b. Change the value.
  • the camera 15 acquires the first moving image data in which at least one of luminance, contrast, saturation, and color tone is corrected.
  • the CPU 12 does not need to correct at least one of luminance, contrast, saturation, and color tone for the first moving image data. Thereby, the processing amount of CPU12 can be reduced.
  • the first aspect of this embodiment is Means (S101) for recognizing a first moving image including at least a part of the user's face and a second moving image not including the face in the first moving image data acquired by the camera (15); Means (S1020) for correcting the luminance of the first moving image data; Means for correcting the recognized second moving image (S1023c), Means (S102) for generating second moving image data including the first moving image included in the first moving image data with corrected luminance and the corrected second moving image; Means (S103) for providing second video data to the video call application (121); An information processing apparatus (for example, the client terminal 10).
  • the second aspect of this embodiment is Means (S101) for recognizing a first moving image including at least a part of the user's face and a second moving image not including the face in the first moving image data acquired by the camera (15); Means (S1020) for correcting the luminance of the recognized first moving image; Means for correcting the recognized second moving image (S1023c), Means (S102) for generating second moving image data including the corrected first moving image and the corrected second moving image; Means (S103) for providing second video data to the video call application; An information processing apparatus (for example, the client terminal 10).
  • the user can easily process a moving image including his / her face used in a video call. Thereby, it is possible to promote the use of moving images in video calls.
  • the means for correcting the luminance may correct the luminance so that the luminance of the recognized first moving image is included in the predetermined range.
  • the user can easily change the impression of the image of his / her face used in the video call.
  • the means for correcting the second moving image receives the user's instruction, the ratio of the second moving image in the first moving image data is equal to or greater than a predetermined threshold, and the first moving image.
  • the second moving image may be corrected in at least one case where image recognition fails.
  • the means for correcting the second moving image may correct the second moving image so that the visibility of the second moving image is lowered.
  • the user can automatically avoid the image of the background (for example, furniture arranged in the room) being seen by the counterpart user.
  • the background for example, furniture arranged in the room
  • Means (S1021) for selecting any one of a plurality of makeup patterns Means (S1021) for correcting the first moving image using the selected makeup pattern;
  • the means (S102) for generating the second moving image data may generate second moving image data including the corrected first moving image and the corrected second moving image.
  • the selecting means (S1021) may select a makeup pattern specified by the user or a makeup pattern corresponding to user information (for example, a profile) related to the user.
  • the user can make a desired makeup on the image of his / her face used in the video call.
  • the third aspect of this embodiment is Means (S101) for recognizing a first moving image including at least a part of the user's face and a second moving image not including the face in the first moving image data acquired by the camera (15); Means (S1021) for selecting one of a plurality of makeup patterns; Means (S1021) for correcting the first moving image recognized using the selected makeup pattern; Means (S102) for generating second moving image data including the corrected first moving image and the recognized second moving image; Means (S103) for providing second video data to the video call application; Information processing apparatus.
  • the user can easily process a moving image including his / her face used in a video call. Thereby, it is possible to promote the use of moving images in video calls.
  • the user can obtain a moving image on which a desired make-up has been performed.
  • the information processing apparatus may further include means (S1023) for storing the changed correction parameter in the storage device (30) in association with the user ID for identifying the user.
  • the user can use a makeup pattern customized by another user.
  • the means for providing the second moving image data stops providing the second moving image data or succeeds in recognizing the first moving image when the recognition of the first moving image fails.
  • the second moving image data generated sometimes may be provided.
  • the storage device 11 may be connected to the client terminal 10 via the network NW.
  • Information processing system 10 Client terminal 11: Storage device 12: CPU 13: Input / output interface 14: Communication interface 15: Camera 16: Microphone 30: Server 120: Virtual camera application 121: Video call application

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

ビデオ通話における動画像の利用を促す。情報処理装置は、カメラによって取得された第1動画データの輝度を補正する手段を備え、輝度が補正された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、顔を含まない第2動画像と、を認識する手段を備え、認識された第2動画像を補正する手段を備え、輝度が補正された第1動画データに含まれる第1動画像と、補正された第2動画像と、を含む第2動画データを生成する手段を備え、ビデオ通話アプリケーションに第2動画データを提供する手段を備える。

Description

情報処理装置、プログラム
 本発明は、情報処理装置及びプログラムに関する。
 近年、ビデオ通話の利用頻度が増加している。ビデオ通話のユーザは、自分の動画像を相手先ユーザに提供することにより、コミュニケーションの質を向上させることができる。
 従来、ビデオ通話で用いる動画像を加工する技術が知られている。例えば、特許文献1は、ユーザの動画像を、相手先ユーザが所望するフォーマットで提供する技術を開示している。
特開2014-075779号公報
 ユーザは、自分の動画像(例えば、顔の画像、及び、背景の画像)の提供に抵抗を感じる場合がある。例えば、女性ユーザは、自分の動画像を提供せずに、音声のみでビデオ通話に参加する傾向がある。
 しかし、特許文献1では、相手先ユーザに提供される動画像は、相手先ユーザが任意に決める。つまり、ユーザは、相手先ユーザに提供される動画像を自身で決めることはできない。したがって、動画像の提供に対するユーザの抵抗感を取り除くことはできない。
 本発明の目的は、ビデオ通話における動画像の利用を促すことである。
 本発明の一態様は、
 カメラによって取得された第1動画データの輝度を補正する手段を備え、
 前記輝度が補正された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、前記顔を含まない第2動画像と、を認識する手段を備え、
 前記認識された第2動画像を補正する手段を備え、
 前記輝度が補正された第1動画データに含まれる第1動画像と、前記補正された第2動画像と、を含む第2動画データを生成する手段を備え、
 ビデオ通話アプリケーションに前記第2動画データを提供する手段を備える、
情報処理装置である。
 本発明によれば、ビデオ通話における動画像の利用を促すことができる。
本実施形態の情報処理システムの構成を示すブロック図。 図1のクライアント端末にインストールされたアプリケーションの機能を示す図。 本実施形態のメークアップパターンデータベースのデータ構造を示す図。 本実施形態の情報処理のフローチャート。 図4の第2動画データの生成の詳細なフローチャート。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 本実施形態の情報処理において表示される画面例を示す図。 変形例3のメークアップパターンデータベースのデータ構造を示す図。 変形例3の情報処理において表示される画面例を示す図。
 以下、本発明の一実施形態について、図面に基づいて詳細に説明する。なお、実施形態を説明するための図面において、同一の構成要素には原則として同一の符号を付し、その繰り返しの説明は省略する。
(1)情報処理システムの構成
 情報処理システムの構成について説明する。図1は、本実施形態の情報処理システムの構成を示すブロック図である。
 図1に示すように、情報処理システム1は、クライアント端末10と、サーバ30とを備える。
 クライアント端末10及びサーバ30は、ネットワーク(例えば、インターネット又はイントラネット)NWを介して接続される。
 クライアント端末10は、サーバ30にリクエストを送信する情報処理装置の一例である。クライアント端末10は、例えば、スマートフォン、タブレット端末、又は、パーソナルコンピュータである。
 サーバ30は、リクエストに応じたレスポンスをクライアント端末10に送信する情報処理装置の一例である。サーバ30は、例えば、ウェブサーバである。
(1-1)クライアント端末の構成
 図1を参照して、クライアント端末10の構成について説明する。
 図1に示すように、クライアント端末10は、記憶装置11と、CPU(Central Processing Unit)12と、入出力インタフェース13と、通信インタフェース14、カメラ15と、マイク16と、とを備える。
 記憶装置11は、プログラム及びデータを記憶するように構成される。記憶装置11は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、及び、ストレージ(例えば、フラッシュメモリ又はハードディスク)の組合せである。
 プログラムは、例えば、OS(Operating System)のプログラム、又は、情報処理を実行するアプリケーションのプログラムである。図2に示すように、アプリケーションは、仮想カメラアプリケーション120と、ビデオ通話アプリケーション121と、を含む。
 データは、例えば、以下のデータを含む。
・情報処理において参照されるデータ
・画像処理ライブラリ(例えば、画像の特徴量に基づいて画像中の特定部位を認識するための画像認識アルゴリズム、画像の輝度を最適化するための輝度補正パラメータ、及び、画像に適用すべき画像処理フィルタ)
・情報処理を実行することによって得られるデータ(つまり、情報処理の実行結果)
 図1のCPU12は、記憶装置11に記憶されたプログラムを実行することによって、クライアント端末10の機能を実現するように構成される。CPU12は、コンピュータの一例である。
 入出力インタフェース13は、クライアント端末10に接続される入力デバイスからユーザの指示を受け付け、かつ、クライアント端末10に接続される出力デバイスに情報を出力するように構成される。
 入力デバイスは、例えば、キーボード、ポインティングデバイス、タッチパネル、又は、それらの組合せである。
 出力デバイスは、例えば、ディスプレイである。
 通信インタフェース14は、クライアント端末10とサーバ30との間の通信を制御するように構成される。
 カメラ15は、動画データを取得するように構成される。カメラ15は、クライアント端末10のユーザの顔の少なくとも一部の動画像(以下「第1動画像」という)を撮像することにより、第1動画像を含む動画データ(以下「第1動画データ」という)を取得する。
 マイク16は、音声データを取得するように構成される。
(1-2)アプリケーションの機能
 クライアント端末10のアプリケーションの機能について説明する。図2は、図1のクライアント端末にインストールされたアプリケーションの機能を示す図である。
 図2に示すように、CPU12は、仮想カメラアプリケーション120の機能と、ビデオ通話アプリケーション121の機能と、を実現するプロセッサである。
 仮想カメラアプリケーション120は、第1動画データを補正することにより第2動画データを生成し、かつ、第2動画データをビデオ通話アプリケーション121に提供するように構成される。仮想カメラアプリケーション120の機能は、ビデオ通話アプリケーション121の機能とは独立した機能であっても良いし、ビデオ通話アプリケーション121の機能の一部であっても良い。
 ビデオ通話アプリケーション121は、ビデオデータを、通信インタフェース14経由でサーバ30に送信するように構成される。ビデオデータは、第2動画データと、音声データと、を含む。
 サーバ30は、ビデオ通話シーケンスを制御するように構成される。ビデオ通話シーケンスでは、複数のクライアント端末10の間でビデオデータが共有される。
(2)データベース
 本実施形態のデータベースについて説明する。図3は、本実施形態のメークアップパターンデータベースのデータ構造を示す図である。
 図3に示すように、メークアップパターンデータベースは、「パターンID」フィールドと、「パターン名」フィールドと、「補正パラメータ」フィールドと、を含む。各フィールドは、互いに関連付けられている。
 「補正パラメータ」フィールドは、顔の部位毎の画像、及び、背景の画像を補正するための補正パラメータを含む。具体的には、「補正パラメータ」フィールドは、「唇」フィールドと、「瞼」フィールドと、「目」フィールドと、「睫毛」フィールドと、「頬」フィールドと、「背景」フィールドと、を含む。各フィールドには、補正パラメータID「CP1」~「CP6」が関連付けられる。補正パラメータIDは、補正パラメータを識別する情報である。
 メークアップパターンデータベースは、記憶装置11に記憶される。
 「パターンID」フィールドには、パターンIDが格納される。パターンIDは、メークアップパターンを識別する情報である。メークアップパターンは、ユーザの顔の各部位の画像を補正するための補正パラメータの組合せである。
 「パターン名」フィールドには、メークアップパターンの名称を示す情報(例えば、テキスト)が格納される。
 「補正パラメータ」フィールドには、補正パラメータが格納される。
 具体的には、「唇」フィールドには、唇の画像(例えば、口紅の濃度、光沢感、ツヤのレベル、及び、パール感の少なくとも1つ)を補正するための補正パラメータが格納される。
 「瞼」フィールドには、瞼の画像(例えば、アイシャドウの濃度、光沢感、ツヤのレベル、及び、パール感の少なくとも1つ)を補正するための補正パラメータが格納される。
 「目」フィールドには、目の画像(例えば、目の形状)を補正するための補正パラメータが格納される。
 「睫毛」フィールドには、睫毛の画像(例えば、マスカラの濃度)を補正するための補正パラメータが格納される。
 「頬」フィールドには、頬の画像(例えば、チークの濃度)を補正するための補正パラメータが格納される。
 各フィールドの数値が高いほど、第1動画像の各部位に施されるメークアップのレベル(例えば、濃度)が高くなる。
 「背景」フィールドには、第2動画像を補正するための補正パラメータが格納される。第2動画像を補正するための補正パラメータは、例えば、以下の少なくとも1つを含む。
・第2動画像のブラーレベルを補正するための補正パラメータ(例えば、ブラーレベルが高いほど、第2動画像の視認性が低下する(つまり、ユーザにとって見えにくくなる))
・第2動画像の色を変更するための補正パラメータ(例えば、グレースケール又は透明化のレベルを示す値)
・第2動画像にモザイク処理を適用するための補正パラメータ(例えば、モザイク処理のレベルを示す値)
・第2動画像に別の画像を合成するための補正パラメータ(例えば、合成すべき画像の割合を示す値)
(3)情報処理のフロー
 本実施形態の情報処理のフローについて説明する。図4は、本実施形態の情報処理のフローチャートである。図5は、図4の第2動画データの生成の詳細なフローチャートである。図6~図12は、本実施形態の情報処理において表示される画面例を示す図である。
 図4及び図5の各ステップは、図2の仮想カメラアプリケーション120の機能である。
 図4に示すように、クライアント端末10は、第1動画データの取得(S100)を実行する。
 具体的には、ユーザが仮想カメラアプリケーション120の起動を指示すると、CPU12は、仮想カメラアプリケーション120のプログラムを実行し、画面P100(図6)をディスプレイに表示する。
 図6Aに示すように、画面P100は、領域A100と、ボタンB100と、を含む。
 領域A100には、フェイスラインL100(図6A)及び画像IMG100(図6B)が表示される。画像IMG100は、カメラ15が取得する動画データに対応するプレビュー画像である。
 ボタンB100は、第1動画データの取得の指示を受け付けるためのオブジェクトである。ユーザが自身の顔の輪郭をフェイスラインL100に合わせた後、ボタンB100を指定すると、CPU12は、領域A100に表示された画像IMG100(図6B)に対応する第1動画データをカメラ15から取得する。
 図4に示すように、クライアント端末10は、第1動画像及び第2動画像の認識(S101)を実行する。
 具体的には、CPU12は、記憶装置11に記憶された画像認識アルゴリズムを用いて、ステップS100で取得した第1動画データの特徴量に基づいて、第1動画像と、第2動画像と、を認識する。第2動画像とは、第1動画データにおいて第1動画像以外の動画像である。つまり、第2動画像は、ユーザの顔を含まない動画像(例えば、ユーザの背景を含む動画像)である。
 次に、CPU12は、第1動画データの特徴量に基づいて、第1動画像に含まれる顔の部位(例えば、唇、瞼、目、頬、鼻、髪型、輪郭、眉、及び、睫毛)を認識する。
 ステップS101の後、クライアント端末10は、第2動画データの生成(S102)を実行する。
 図5に示すように、クライアント端末10は、明るさ補正(S1020)を実行する。
 具体的には、CPU12は、ステップS101で認識された第1動画像のうち、顔の一部(例えば、頬)に対応する画像の輝度を特定する。
 次に、CPU12は、特定した輝度が所定範囲内に含まれるように、第1動画像及び第2動画像(つまり、第1動画データの全体の画像)の輝度を補正する。
 次に、CPU12は、画面P101(図7)をディスプレイに表示する。
 図7に示すように、画面P101は、領域A101と、ボタンB101a及びB101bと、を含む。
 ボタンB101aは、第1動画像の輝度の変更の指示を受け付けるためのオブジェクトである。ユーザがボタンB101aを+側又は-側に移動させると、CPU12は、第1動画像の輝度を、ボタンB101aの位置に応じた値に変更する。ユーザは、ボタンB101aを移動させることにより、第1動画データの全体の画像の明るさを調整することができる。
 ボタンB101bは、第1動画像の輝度の確定の指示を受け付けるためのオブジェクトである。ユーザがボタンB101bを指定すると、ステップS1020が終了する。
 領域A101には、画像IMG101が表示される。画像IMG101は、輝度が補正された後の第1動画像のプレビュー画像である。
 ユーザがボタンB101b(図7)を指定すると、図5に示すように、クライアント端末10は、メークアップパターン補正(S1021)を実行する。
 具体的には、CPU12は、画面P102(図8)をディスプレイに表示する。
 図8に示すように、画面P102は、領域A102と、ボタンB102a~B102hと、を含む。
 領域A102には、画像IMG102が表示される。
 ボタンB102a~B102eは、メークアップパターンの指示を受け付けるためのオブジェクトである。ボタンB102a~B102eには、それぞれ、パターンID「MP001」~「MP005」(図3)が割り当てられる。ユーザがボタンB102a~B102eの何れかを指定すると、CPU12は、ユーザが指定したボタンに割り当てられたパターンIDによって識別されるメークアップパターン(つまり、ユーザが指定したボタンに対応する補正パラメータの組合せ)を選択する。次に、CPU12は、選択したメークアップパターンを用いて、第1動画像の各部位の画像を補正することにより、第2動画データを生成する。この場合の画像IMG102は、メークアップ補正後の第1動画像のプレビュー画像である。
 ボタンB102fは、補正パラメータの変更(S1023)の指示を受け付けるためのオブジェクトである。
 ボタンB102gは、メークアップパターン補正の解除の指示を受け付けるためのオブジェクトである。ユーザがボタンB102gを指定すると、CPU12は、メークアップパターン補正を解除する。この場合の画像IMG102は、第1動画像のプレビュー画像IMG101(図7)と同一である。
 ボタンB102hは、ビデオ通話アプリケーション121の起動の指示を受け付けるためのオブジェクトである。ユーザがボタンB102hを指定すると、CPU12は、ビデオ通話アプリケーション121のプログラムを実行する。
 ユーザがボタンB102h(図8)を指定すると(S1022-NO)、図5の処理は終了する。
 ユーザがボタンB102a~B102e(図8)の何れかを指定し、かつ、ボタンB102f(図8)を指定すると(S1022-YES)、図5に示すように、クライアント端末10は、補正パラメータの変更(S1023)を実行する。
 具体的には、CPU12は、画面P103(図8)をディスプレイに表示する。
 図8に示すように、画面P103は、ボタンB103a~B103cを含む。
 ボタンB103aは、メークアップパターンのカスタマイズ(S1023a)の指示を受け付けるためのオブジェクトである。
 ボタンB103bは、フィルタ補正(S1023b)の指示を受け付けるためのオブジェクトである。
 ボタンB103cは、背景補正(S1023c)の指示を受け付けるためのオブジェクトである。ユーザがボタンB103cを指定すると、CPU12は、画面P106(図11)をディスプレイに表示する。
 ユーザがボタンB103a(図8)を指定すると、CPU12は、メークアップパターンのカスタマイズ(S1023a)を実行する。
 具体的には、CPU12は、画面P104(図9)をディスプレイに表示する。
 図9に示すように、画面P104は、領域A104と、ボタンB104a~B104gと、を含む。
 領域A104には、画像IMG104が表示される。画像IMG104は、変更後の補正パラメータに対応する第1動画像のプレビュー画像である。
 ボタンB104a~B104eは、変更対象の補正パラメータの指示を受け付けるためのオブジェクトである。ボタンB104a~B104eには、それぞれ、図3の補正パラメータID「CP1」~「CP5」が割り当てられる。ユーザがボタンB104a~B104eの何れかを指定すると、CPU12は、変更対象の補正パラメータを特定する。変更対象の補正パラメータは、ユーザが指定したボタンに割り当てられた補正パラメータIDよって識別される補正パラメータである。
 ボタンB104fは、変更後の補正パラメータの値の指示を受け付けるためのオブジェクトである。ユーザがボタンB104fを+側又は-側に移動させると、CPU12は、変更対象の補正パラメータを、ボタンB104fの位置に応じた値に変更する。ユーザは、ボタンB104fを移動させることにより、変更対象の補正パラメータを調整することができる。
 ボタンB104gは、変更後の補正パラメータの保存の指示を受け付けるためのオブジェクトである。ユーザがボタンB104gを指定すると、CPU12は、変更後の補正パラメータを記憶装置11に記憶する。
 一例として、ユーザが、ボタンB102a及びB103a(図8)を指定し、かつ、ボタンB104a、B104f、及び、B104g(図9)を指定すると、CPU12は、図3のパターンID「MP005」に関連付けられた各フィールドに、パターンID「MP001」に関連付けられた各フィールドの値をコピーする。
 次に、CPU12は、ボタンB104fの位置に応じた値を用いて、パターンID「MP005」に関連付けられた「唇」フィールドを更新する。
 ユーザがボタンB103b(図8)を指定すると、図5に示すように、クライアント端末10は、フィルタ補正(S1023b)を実行する。
 具体的には、CPU12は、画面P105(図10)をディスプレイに表示する。
 図10に示すように、画面P105は、領域A105と、ボタンB105a~B105eと、を含む。
 領域A105には、画像IMG105が表示される。画像IMG105は、フィルタ補正後の第1動画像のプレビュー画像である。
 ボタンB105aは、フィルタ補正の解除の指示を受け付けるためのオブジェクトである。ユーザがボタンB105aを指定すると、CPU12は、フィルタ補正を実行しない。この場合の画像IMG105は、画像IMG102(図8)と同一である。
 ボタンB105b~B105dは、画像処理フィルタの指示を受け付けるためのオブジェクトである。ボタンB105b~B105dには、それぞれ、画像処理フィルタ「FILETR1」~「FILTER3」が割り当てられる。
 画像処理フィルタ「FILETR1」は、顔の少なくとも一部(例えば、頬)に対応する画像のコントラストが所定範囲内に含まれるように、第1動画像の輝度、コントラスト、彩度、及び、色調を補正するための補正パラメータを含む。
 画像処理フィルタ「FILETR2」は、顔の少なくとも一部(例えば、頬)に対応する画像の彩度が所定範囲内に含まれるように、第1動画像の輝度、コントラスト、彩度、及び、色調を補正するための補正パラメータを含む。
 画像処理フィルタ「FILETR3」は、顔の少なくとも一部(例えば、頬)に対応する画像の色調が所定範囲内に含まれるように、第1動画像の輝度、コントラスト、彩度、及び、色調を補正するための補正パラメータを含む。
 ユーザがボタンB105b~B105dの何れかを指定すると、CPU12は、ユーザが指定したボタンに割り当てられた画像処理フィルタを第1動画像に適用する。この場合、画像IMG105は、画像処理フィルタが適用された後の第1動画像のプレビュー画像である。
 ボタンB105eは、フィルタ補正の確定の指示を受け付けるためのオブジェクトである。ユーザがボタンB105eを指定すると、CPU12は、フィルタ補正後の補正パラメータを、パターンID「MP005」(図3)に関連付けられた各フィールドに格納する。これにより、フィルタ補正後のメークアップパターンが保存される。
 一例として、ユーザが、ボタンB102a及びB103b(図8)を指定し、かつ、ボタンB105b及びB105e(図10)を指定すると、CPU12は、ボタンB105bに割り当てられた画像処理フィルタを用いて、パターンID「MP005」に関連付けられた各フィールドの値を変更する。
 図5に示すように、ユーザがボタンB103c(図8)を指定すると、クライアント端末10は、背景補正(S1023c)を実行する。
 具体的には、CPU12は、画面P106(図11)をディスプレイに表示する。
 図11に示すように、画面P106は、領域A106と、ボタンB106a及びB106bと、を含む。
 ボタンB106aは、第2動画像のブラーレベルの変更の指示を受け付けるためのオブジェクトである。ユーザがボタンB106aを+側又は-側に移動させると、CPU12は、第2動画像のブラーレベルを、ボタンB106aの位置に応じた値に変更する。ユーザは、ボタンB106aを移動させることにより、背景をぼかすことができる。
 領域A106には、画像IMG106a及びIMG106bが表示される。
 画像IMG106aは、第1動画像のプレビュー画像である。画像IMG106aは、ボタンB106aが移動しても変化しない。
 画像IMG106bは、第2動画像のプレビュー画像である。画像IMG106bは、ボタンB106aの位置に応じてブラーレベルが変化する。
 ボタンB106bは、ブラーレベルの確定の指示を受け付けるためのオブジェクトである。ユーザがボタンB106bを指定すると、CPU12は、ブラーレベルと、パターンID「MP005」と、を関連付けて記憶装置11に記憶する。
 一例として、ユーザが、ボタンB102a及びB103c(図8)を指定し、かつ、ボタンB106a及びB106b(図11)を指定すると、CPU12は、ボタンB106aの位置に応じた値を用いて、図3のパターンID「MP005」に関連付けられた「背景」フィールドを更新する。
 ユーザがボタンB102h(図8)を指定すると(S1022-NO)、クライアント端末10は、図4の第2動画データの提供(S103)を実行する。
 具体的には、CPU12は、ビデオ通話アプリケーション121のプログラムを実行し、画面P110(図12)をディスプレイに表示する。
 図12に示すように、画面P110は、領域A110a及びA110bと、ボタンB110と、を含む。
 領域A110aには、画像IMG110a及びIMG110bが表示される。
 画像IMG110aは、ステップS102(図4)で得られる第1動画像である。
 画像IMG110bは、ステップS102で得られる第2動画像である。
 領域A110bには、ビデオ通話アプリケーション121に予め登録された相手先ユーザのユーザ名が表示される。例えば、ユーザが相手先ユーザ「USER1」及びボタンB110を指定すると、CPU12は、通信インタフェース14を介して、ビデオ通話リクエストをサーバ30に送信する。
 ボタンB110は、ビデオ通話シーケンスの開始のリクエスト(以下「ビデオ通話リクエスト」という)の指示を受け付けるためのオブジェクトである。ユーザがボタンB110を指定すると、CPU12は、ビデオ通話リクエストをサーバ30に送信する。
 相手先ユーザがビデオ通話リクエストに応答すると、サーバ30は、ビデオ通話シーケンスを開始する。ビデオ通話シーケンスでは、ユーザのクライアント端末10と、相手先ユーザのクライアント端末との間で、ビデオデータが送受信される。クライアント端末10が送信するビデオデータは、領域A110aに表示されたプレビュー画像に対応する第2動画データを含む。
 ビデオ通話シーケンスが開始してからビデオ通話シーケンスが終了する迄の間、仮想カメラアプリケーション120は、図3の処理を実行することにより、第2動画データをビデオ通話アプリケーション121に提供し続ける。
 一例として、ユーザが、ビデオ通話中にボタンB101a(図7)を移動させると、ビデオ通話中に、第2動画データの全体の画像の明るさを変更することができる。
 ユーザが、ビデオ通話中にボタンB101a~B102e(図8)の何れかを指定すると、ビデオ通話中にメークアップパターンを変更することができる。
 なお、ステップS1020~S1023は順不同である。
 ステップS1020を実行する場合、ステップS1021は省略可能である。
 ステップS1021を実行する場合、ステップS1020は省略可能である。
 ステップS1023a~S1023cの少なくとも1つは省略可能である。
(4)変形例
 本実施形態の変形例について説明する。
(4-1)変形例1
 変形例1について説明する。
 変形例1のクライアント端末10は、背景補正(S1023c)において、ユーザの指示の有無に関わらず、所定条件を満たす場合に第2動画像を補正する。
 一例として、CPU12は、第1動画像に対する第2動画像の割合が所定値以上である(つまり、背景が所定の大きさより多く映る)場合、当該割合に応じて第2動画像を補正する。
 別の例として、CPU12は、第1動画像の認識率が所定値以下である場合、当該認識率に応じて第2動画像を補正する。
 変形例1によれば、コミュニケーションの質を向上させるのに十分な顔の動画像を相手先ユーザに提供できない場合、背景の動画像をぼかすことができる。これにより、背景の動画像だけが相手先ユーザに提供されることを回避することができる。
(4-2)変形例2
 変形例2について説明する。
 変形例2のクライアント端末10は、メークアップパターン補正(S1021)において、ユーザが指定したメークアップパターンではなく、ユーザに関する情報(以下「ユーザ情報」という)に応じたメークアップパターンを選択しても良い。
 一例として、記憶装置11には、ユーザ情報が記憶される。ユーザ情報は、例えば、以下の情報の少なくとも1つである。
・ユーザのプロフィール(例えば、ユーザ名、ユーザの性別、及び、ユーザの職業)に関する情報
・ユーザのビデオ通話履歴(例えば、ビデオ通話の日時、ビデオ通話の相手先ユーザのプロフィール、ビデオ通話の目的(一例として、会議、外国語のレッスン))に関する情報
・ユーザの行動ログ(例えば、ユーザが使用している化粧品又は洋服、ユーザが購入した化粧品又は洋服の購入履歴に関する情報)
・ユーザの心理状態(例えば、ストレスレベル)に関する情報
・ステップS101で認識された顔の部位(例えば、輪郭)の特徴量を示す情報
 パターンIDには、ユーザ情報が関連付けられる。
 CPU12は、メークアップパターン補正(S1021)において、ユーザ情報に関連付けられたパターンIDにより識別されるメークアップパターンを選択する。
 変形例2によれば、ユーザに対して、当該ユーザにとって最適なメークアップパターンを提案することができる。
(4-3)変形例3
 変形例3について説明する。
 変形例3のクライアント端末10は、図5のメークアップパターンのカスタマイズ(S1023a)において、記憶装置11に記憶されたメークアップパターンデータベースを更新するのではなく、変更後の補正パラメータを含むメークアップパターンを、サーバ30の記憶装置に記憶する。
 図13は、変形例3のメークアップパターンデータベースのデータ構造を示す図である。図14は、変形例3の情報処理において表示される画面例を示す図である。
 図13に示すように、メークアップパターンデータベースは、「ユーザID」フィールドと、「ユーザ名」フィールドと、「補正パラメータ」フィールドと、を含む。各フィールドは、互いに関連付けられている。「補正パラメータ」フィールドは、図3と同様である。
 「ユーザID」フィールドには、ユーザIDが格納される。ユーザIDは、ユーザを識別する除法である。
 「ユーザ名」フィールドには、ユーザの名前を示す情報(例えば、テキスト)が格納される。
 ユーザ(ユーザ名「USER1」)が使用するクライアント端末10aのCPU12aは、メークアップパターンのカスタマイズ(S1023a)において、変更後の補正パラメータを含むメークアップパターンと、ユーザID「U001」と、ユーザ名「USER1」と、をサーバ30に送信する。
 サーバ30は、クライアント端末10aから送信されたメークアップパターンと、ユーザIDと、ユーザ名と、を関連付けて記憶する。
 ステップS1021(図5)において、ユーザ(ユーザ名「USER2」)が使用するクライアント端末10bのCPU12bは、画面P200(図14)をディスプレイに表示する。
 図14に示すように、画面P200は、領域A200a及びA200bと、ボタンB200a~B200cと、を含む。
 領域A200aには、メークアップパターンをサーバ30に保存したユーザのユーザ名が表示される。
 領域A200bには、メークアップパターンを適用した場合のユーザ(ユーザ名「USER2」)の第1画像のプレビュー画像が表示される。
 ボタンB200a及びB200bは、ユーザの指示を受け付けるためのオブジェクトである。ボタンB200a及びB200bには、メークアップパターンをサーバ30に保存したユーザを識別するユーザID「U001」及び「U003」が割り当てられる。ユーザ(ユーザ名「USER2」)がボタンB200a及びB200bを指定すると、CPU12bは、ユーザ(ユーザ名「USER2」)が指定したボタンに割り当てられたユーザIDに関連付けられたメークアップパターンを選択する。
 一例として、ユーザ名(「USER2」)が、ボタンB200a及びB200c(図14)を指定すると、CPU12bは、図13のユーザID「U001」に関連付けられたメークアップパターンを用いて、第1動画像の各部位の画像を補正することにより、第2動画データを生成する。
 変形例3によれば、ユーザは、他のユーザがカスタマイズしたメークアップパターンを使用することができる。
(4-4)変形例4
 変形例4について説明する。
 変形例4のメークアップパターンは、図3の補正パラメータに加えて、以下の部位の少なくとも1つを補正するための補正パラメータを含む。
・髪型
・顔の輪郭
・眉の形状
・睫毛の形状
・鼻の形状、
・唇の形状
・ファンデーションの濃度
(4-5)変形例5
 変形例5について説明する。
 変形例5のクライアント端末10は、ステップS101において第1動画像の認識に失敗した場合、第1動画データに含まれる第1動画像(つまり、メークアップを施していない顔の画像)が相手先ユーザに提供されることを回避する。認識に失敗した場合とは、例えば、第1動画像の認識率が所定の閾値以下の場合である。
 一例として、CPU12は、ステップS101において第1動画像の認識に失敗した場合、ステップS102及びS103の処理を実行しない。
 これにより、第1動画像の認識に失敗した場合、相手先ユーザのクライアント端末10には、第2動画データは提供されない。この場合、相手先ユーザのクライアント端末10のディスプレイは、ブラックアウトする。
 別の例として、CPU12は、ステップS101において第1動画像の認識に失敗した場合、ステップS102の処理を実行せず、かつ、ステップS103において、第1動画像の認識に成功したときに生成された第2動画データを提供する。
 これにより、第1動画像の認識に失敗した場合、相手先ユーザのクライアント端末10のディスプレイには、第1動画像の認識に成功したときの顔の画像が静止画のように表示される。
 別の例として、CPU12は、ステップS101において第1動画像の認識に失敗した場合、ステップS102において、第1動画像及び第2動画像(つまり、第1動画データの全体の画像)について、以下の少なくとも1つの補正パラメータを、第1動画データの全体の画像の視認性が低下するように変更する。
・ブラーレベルを補正するための補正パラメータ
・色を変更するための補正パラメータ(例えば、グレースケールへの変換、又は、透明化のレベルを示す値)
・モザイク処理を適用するための補正パラメータ(例えば、モザイク処理のレベルを示す値)
・別の画像を合成するための補正パラメータ(例えば、合成すべき画像の割合を示す値)
 これにより、第1動画像の認識に失敗した場合、相手先ユーザのクライアント端末10のディスプレイには、少なくとも第1動画像の視認性が低い画像(例えば、ブラーレベルを補正するための補正パラメータを変更した場合、第1動画データの全体がぼやけた画像)が表示される。
 変形例5によれば、ステップS101において第1動画像の認識に失敗した場合、メークアップを施していない顔の画像が相手先ユーザに提供されることを回避することができる。
(4-6)変形例6
 変形例6について説明する。変形例6は、ステップS1020において、ステップS101で認識された第1動画像の少なくとも一部の輝度を補正する例である。
 一例として、CPU12は、ステップS101で認識された第1動画像のうち、顔の一部(例えば、頬)に対応する画像の輝度を特定する。
 次に、CPU12は、特定した輝度が所定範囲内に含まれるように、第1動画像の全体の輝度、又は、特定した輝度を補正する。
(4-7)変形例7
 変形例7について説明する。変形例7は、仮想カメラアプリケーション120が、カメラ15の設定値を変更する例である。
 一例として、変形例7のCPU12は、図5のステップS1020において、顔の一部(例えば、頬)に対応する画素の輝度を特定した後、特定した輝度が所定範囲内に含まれるように、カメラ15の設定値を変更する。
 別の例として、ステップS1023bにおいて、ユーザが、ボタンB105b(図10)を指定すると、CPU12は、ボタンB105bに割り当てられた画像処理フィルタ「FILTER1」に含まれる補正パラメータに基づいて、カメラ15の設定値を変更する。
 変形例7によれば、カメラ15が、輝度、コントラスト、彩度、及び、色調の少なくとも1つが補正された第1動画データを取得する。CPU12は、第1動画データについて、輝度、コントラスト、彩度、及び、色調の少なくとも1つを補正する必要はない。これにより、CPU12の処理量を低減することができる。
(5)小括
 本実施形態を小括する。
 本実施形態の第1態様は、
 カメラ(15)によって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、顔を含まない第2動画像と、を認識する手段(S101)を備え、
 第1動画データの輝度を補正する手段(S1020)を備え、
 認識された第2動画像を補正する手段(S1023c)を備え、
 輝度が補正された第1動画データに含まれる第1動画像と、補正された第2動画像と、を含む第2動画データを生成する手段(S102)を備え、
 ビデオ通話アプリケーション(121)に第2動画データを提供する手段(S103)を備える、
情報処理装置(例えば、クライアント端末10)である。
 本実施形態の第2態様は、
 カメラ(15)によって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、顔を含まない第2動画像と、を認識する手段(S101)を備え、
 認識された第1動画像の輝度を補正する手段(S1020)を備え、
 認識された第2動画像を補正する手段(S1023c)を備え、
 補正された第1動画像と、補正された第2動画像と、を含む第2動画データを生成する手段(S102)を備え、
 ビデオ通話アプリケーションに第2動画データを提供する手段(S103)を備える、
情報処理装置(例えば、クライアント端末10)である。
 これらの態様によれば、ユーザは、ビデオ通話で用いる自分の顔を含む動画像を容易に加工することができる。これにより、ビデオ通話における動画像の利用を促すことができる。
 別の態様では、輝度を補正する手段(S1020)は、認識された第1動画像の輝度が所定範囲に含まれるように、輝度を補正しても良い。
 この態様によれば、ユーザは、ビデオ通話で用いる自分の顔の画像の印象を容易に変更することができる。
 別の態様では、第2動画像を補正する手段(S1023c)は、ユーザの指示を受け付けた場合、第1動画データにおける第2動画像の割合が所定の閾値以上の場合、及び、第1動画像の認識に失敗した場合の少なくとも1つの場合に、第2動画像を補正しても良い。
 別の態様では、第2動画像を補正する手段(S1023c)は、第2動画像の視認性が低下するように、第2動画像を補正しても良い。
 これらの態様によれば、ユーザは、背景(例えば、部屋に配置されている家具)の画像が相手先ユーザに見られてしまうことを自動的に回避することができる。
 別の態様によれば、複数のメークアップパターンの何れかを選択する手段(S1021)を備え、
 選択されたメークアップパターンを用いて第1動画像を補正する手段(S1021)を備え、
 第2動画データを生成する手段(S102)は、補正された第1動画像と、補正された第2動画像と、を含む第2動画データを生成しても良い。
 別の態様では、選択する手段(S1021)は、ユーザが指定したメークアップパターン、又は、ユーザに関するユーザ情報(例えば、プロフィール)に応じたメークアップパターンを選択しても良い。
 これらの態様によれば、ユーザは、ビデオ通話で用いる自分の顔の画像に所望のメークアップを施すことができる。
 本実施形態の第3態様は、
 カメラ(15)によって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、顔を含まない第2動画像と、を認識する手段(S101)を備え、
 複数のメークアップパターンの何れかを選択する手段(S1021)を備え、
 選択されたメークアップパターンを用いて認識された第1動画像を補正する手段(S1021)を備え、
 補正された第1動画像と、認識された第2動画像と、を含む第2動画データを生成する手段(S102)を備え、
 ビデオ通話アプリケーションに第2動画データを提供する手段(S103)を備える、
情報処理装置である。
 この態様によれば、ユーザは、ビデオ通話で用いる自分の顔を含む動画像を容易に加工することができる。これにより、ビデオ通話における動画像の利用を促すことができる。
 別の態様では、ユーザの指示に応じて、各補正する手段の補正パラメータを変更する手段(S1023)を備えても良い。
 この態様によれば、ユーザは、所望のメークアップが施された動画像を得ることができる。
 別の態様では、変更された補正パラメータを、ユーザを識別するユーザIDと関連付けて記憶装置(30)に記憶する手段(S1023)を更に備えても良い。
 この態様によれば、ユーザは、他のユーザがカスタマイズしたメークアップパターンを使用することができる。
 別の態様では、第2動画データを提供する手段(S103)は、第1動画像の認識に失敗した場合、第2動画データの提供を停止する、又は、第1動画像の認識に成功したときに生成された第2動画データを提供しても良い。
 この態様によれば、顔の画像の認識に失敗した場合、メークアップを施していない顔の画像が相手先ユーザに提供されることを回避することができる。
(6)その他の変形例
 記憶装置11は、ネットワークNWを介して、クライアント端末10と接続されてもよい。
 以上、本発明の実施形態について詳細に説明したが、本発明の範囲は上記の実施形態に限定されない。また、上記の実施形態は、本発明の主旨を逸脱しない範囲において、種々の改良や変更が可能である。また、上記の実施形態及び変形例は、組合せ可能である。
1       :情報処理システム
10      :クライアント端末
11      :記憶装置
12      :CPU
13      :入出力インタフェース
14      :通信インタフェース
15      :カメラ
16      :マイク
30      :サーバ
120     :仮想カメラアプリケーション
121     :ビデオ通話アプリケーション

Claims (12)

  1.  カメラによって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、前記顔を含まない第2動画像と、を認識する手段を備え、
     前記第1動画データの輝度を補正する手段を備え、
     前記認識された第2動画像を補正する手段を備え、
     前記輝度が補正された第1動画データに含まれる第1動画像と、前記補正された第2動画像と、を含む第2動画データを生成する手段を備え、
     ビデオ通話アプリケーションに前記第2動画データを提供する手段を備える、
    情報処理装置。
  2.  カメラによって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、前記顔を含まない第2動画像と、を認識する手段を備え、
     前記認識された第1動画像の輝度を補正する手段を備え、
     前記認識された第2動画像を補正する手段を備え、
     前記補正された第1動画像と、前記補正された第2動画像と、を含む第2動画データを生成する手段を備え、
     ビデオ通話アプリケーションに前記第2動画データを提供する手段を備える、
    情報処理装置。
  3.  前記輝度を補正する手段は、前記認識された第1動画像の輝度が所定範囲に含まれるように、前記輝度を補正する、
    請求項1又は2に記載の情報処理装置。
  4.  前記第2動画像を補正する手段は、前記ユーザの指示を受け付けた場合、前記第1動画データにおける前記第2動画像の割合が所定の閾値以上の場合、又は、前記第1動画像の認識に失敗した場合の少なくとも1つの場合に、前記第2動画像を補正する、
    請求項1~3の何れかに記載の情報処理装置。
  5.  前記第2動画像を補正する手段は、前記第2動画像の視認性が低下するように、前記第2動画像を補正する、
    請求項1~4の何れかに記載の情報処理装置。
  6.  複数のメークアップパターンの何れかを選択する手段を備え、
     前記選択されたメークアップパターンを用いて前記第1動画像を補正する手段を備え、
     前記第2動画データを生成する手段は、前記補正された第1動画像と、前記補正された第2動画像と、を含む第2動画データを生成する、
    請求項1~5の何れかに記載の情報処理装置。
  7.  前記選択する手段は、前記ユーザが指定したメークアップパターン、又は、前記ユーザに関するユーザ情報に応じたメークアップパターンを選択する、
    請求項6に記載の情報処理装置。
  8.  カメラによって取得された第1動画データにおいて、ユーザの顔の少なくとも一部を含む第1動画像と、前記顔を含まない第2動画像と、を認識する手段を備え、
     複数のメークアップパターンの何れかを選択する手段を備え、
     前記選択されたメークアップパターンを用いて前記認識された第1動画像を補正する手段を備え、
     前記補正された第1動画像と、前記認識された第2動画像と、を含む第2動画データを生成する手段を備え、
     ビデオ通話アプリケーションに前記第2動画データを提供する手段を備える、
    情報処理装置。
  9.  前記ユーザの指示に応じて、各補正する手段の補正パラメータを変更する手段を備える、
    請求項1~8の何れかに記載の情報処理装置。
  10.  前記変更された補正パラメータを、前記ユーザを識別するユーザIDと関連付けて記憶装置に記憶する手段を備える、
    請求項9に記載の情報処理装置。
  11.  前記第2動画データを提供する手段は、前記第1動画像の認識に失敗した場合、前記第2動画データの提供を停止する、又は、前記第1動画像の認識に成功したときに生成された第2動画データを提供する、
    請求項1~10の何れかに記載の情報処理装置。
  12.  コンピュータを、請求項1~11の何れかに記載の各手段として機能させるためのプログラム。
PCT/JP2017/009500 2017-03-09 2017-03-09 情報処理装置、プログラム WO2018163356A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019504224A JP6967065B2 (ja) 2017-03-09 2017-03-09 情報処理装置、プログラム、及び、情報処理方法
KR1020197027976A KR102316143B1 (ko) 2017-03-09 2017-03-09 정보처리장치, 프로그램
PCT/JP2017/009500 WO2018163356A1 (ja) 2017-03-09 2017-03-09 情報処理装置、プログラム
US16/484,633 US11812183B2 (en) 2017-03-09 2017-03-09 Information processing device and program
TW106134388A TWI742173B (zh) 2017-03-09 2017-10-05 資訊處理裝置、程式及資訊處理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/009500 WO2018163356A1 (ja) 2017-03-09 2017-03-09 情報処理装置、プログラム

Publications (1)

Publication Number Publication Date
WO2018163356A1 true WO2018163356A1 (ja) 2018-09-13

Family

ID=63449050

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/009500 WO2018163356A1 (ja) 2017-03-09 2017-03-09 情報処理装置、プログラム

Country Status (5)

Country Link
US (1) US11812183B2 (ja)
JP (1) JP6967065B2 (ja)
KR (1) KR102316143B1 (ja)
TW (1) TWI742173B (ja)
WO (1) WO2018163356A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020202353A1 (ja) * 2019-03-29 2020-10-08 本田技研工業株式会社 コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12158934B2 (en) * 2020-03-12 2024-12-03 Nec Corporation Photographing control device, system, method, and non-transitory computer-readable medium storing program
US11704851B2 (en) * 2020-05-27 2023-07-18 Snap Inc. Personalized videos using selfies and stock videos
US11659137B1 (en) * 2020-11-30 2023-05-23 Securus Technologies, Inc. Video display blurring on demand

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004094917A (ja) * 2002-07-08 2004-03-25 Toshiba Corp 仮想化粧装置及びその方法
JP2009200900A (ja) * 2008-02-22 2009-09-03 Nikon Corp 撮像装置
JP2010529735A (ja) * 2007-05-30 2010-08-26 イーストマン コダック カンパニー 携帯型ビデオ通信システム
JP2012138823A (ja) * 2010-12-27 2012-07-19 Brother Ind Ltd テレビ会議装置、テレビ会議方法、およびテレビ会議プログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3912834B2 (ja) * 1997-03-06 2007-05-09 有限会社開発顧問室 顔画像の修正方法、化粧シミュレーション方法、化粧方法、化粧サポート装置及びファンデーション転写膜
US9129381B2 (en) * 2003-06-26 2015-09-08 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
JP2009246935A (ja) * 2008-03-14 2009-10-22 Sanyo Electric Co Ltd 画像処理装置およびそれを搭載した撮像装置
JP4770924B2 (ja) * 2008-12-17 2011-09-14 ソニー株式会社 撮像装置、撮像方法、およびプログラム
JP5614494B2 (ja) * 2011-03-30 2014-10-29 富士通株式会社 画像送信制御機能を含む情報処理装置
TWI545947B (zh) * 2011-04-08 2016-08-11 南昌歐菲光電技術有限公司 具有影像擷取及分析模組之顯示裝置
US8687039B2 (en) * 2011-06-06 2014-04-01 Cisco Technology, Inc. Diminishing an appearance of a double chin in video communications
KR101394597B1 (ko) * 2012-05-09 2014-05-27 김명훈 얼굴검출 알고리즘을 이용한 영상보안장치와 영상보안시스템 및 얼굴검출 알고리즘을 이용한 영상보안방법
JP6155909B2 (ja) 2012-09-14 2017-07-05 株式会社リコー 会議端末およびサーバー
CN104380339B (zh) 2013-04-08 2018-11-30 松下电器(美国)知识产权公司 图像处理装置、图像处理方法、以及介质
JP6558935B2 (ja) * 2015-04-24 2019-08-14 キヤノン株式会社 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置
US9996981B1 (en) * 2016-03-07 2018-06-12 Bao Tran Augmented reality system
TWI610571B (zh) * 2016-10-26 2018-01-01 緯創資通股份有限公司 顯示方法及其系統與電腦可讀取記錄媒體
JP7186128B2 (ja) * 2019-04-24 2022-12-08 株式会社日立製作所 物品認識システムおよび物品認識方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004094917A (ja) * 2002-07-08 2004-03-25 Toshiba Corp 仮想化粧装置及びその方法
JP2010529735A (ja) * 2007-05-30 2010-08-26 イーストマン コダック カンパニー 携帯型ビデオ通信システム
JP2009200900A (ja) * 2008-02-22 2009-09-03 Nikon Corp 撮像装置
JP2012138823A (ja) * 2010-12-27 2012-07-19 Brother Ind Ltd テレビ会議装置、テレビ会議方法、およびテレビ会議プログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020202353A1 (ja) * 2019-03-29 2020-10-08 本田技研工業株式会社 コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法
JPWO2020202353A1 (ja) * 2019-03-29 2021-12-09 本田技研工業株式会社 コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法
JP7212766B2 (ja) 2019-03-29 2023-01-25 本田技研工業株式会社 コミュニケーションロボットおよびその制御方法、情報処理サーバならびに情報処理方法

Also Published As

Publication number Publication date
TWI742173B (zh) 2021-10-11
KR20190122740A (ko) 2019-10-30
KR102316143B1 (ko) 2021-10-22
US11812183B2 (en) 2023-11-07
TW201834451A (zh) 2018-09-16
US20200169674A1 (en) 2020-05-28
JP6967065B2 (ja) 2021-11-17
JPWO2018163356A1 (ja) 2019-12-26

Similar Documents

Publication Publication Date Title
CN113099298B (zh) 虚拟形象的改变方法、装置和终端设备
CN111369644A (zh) 人脸图像的试妆处理方法、装置、计算机设备和存储介质
WO2018163356A1 (ja) 情報処理装置、プログラム
US11776187B2 (en) Digital makeup artist
KR20200109634A (ko) 아바타를 이용하여 영상 통화를 수행하는 사용자 단말, 통화 중계 서버 및 방법
CN113240760A (zh) 一种图像处理方法、装置、计算机设备和存储介质
US11961169B2 (en) Digital makeup artist
CN113610723A (zh) 图像处理方法及相关装置
CN113284229B (zh) 三维人脸模型生成方法、装置、设备及存储介质
CN108898650B (zh) 人形素材创建方法及相关装置
CN112785490A (zh) 图像处理方法、装置及电子设备
WO2022146766A1 (en) Digital makeup artist
CN111354478B (zh) 整形模拟信息处理方法、整形模拟终端和整形服务终端
CN113177900B (zh) 图像处理方法、装置、设备及存储介质
CN108549483B (zh) 一种智能画框的控制方法及控制系统
CN110933354A (zh) 一种可定制的多风格多媒体处理方法及其终端
EP1807804A2 (en) A method for generating a composite image
CN115311128A (zh) 一种图像处理方法及相关设备
US11943564B2 (en) Providing video appearance adjustments within a video communication system
US20240195941A1 (en) Illumination Adjustment In Video Communications
US20250322527A1 (en) Image processing method and apparatus, computer device and storage medium
CN116755561A (zh) 一种美容美发个性化服务方法、装置、设备及存储介质
CN113450248A (zh) 基于图像的操作引导方法、装置、设备及可读存储介质
CN114298928A (zh) 图像处理方法、装置、电子设备及可读存储介质
JP2025077733A (ja) 画像合成装置、画像合成方法及びプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17899358

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019504224

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 20197027976

Country of ref document: KR

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 17899358

Country of ref document: EP

Kind code of ref document: A1