Módszertan „A kapcsolatok színtesztje” (CTO). A Microsoft nemcsak az ember életkorát és nemét segít meghatározni egy fényképről, hanem érzelmeit is. Módszerek az érzelmek fényképekről történő meghatározására

A Microsoft Corporation, miután elindított egy szolgáltatást, amely lehetővé teszi a meghatározást, úgy döntött, hogy tovább megy. A cég szakemberei most kidolgoztak egy algoritmust, amely meghatározza a képen látható személy érzelmeit. Összességében a teszt nyolc pozíción megy keresztül: harag, elégedettség, undor, félelem, boldogság, semlegesség (olvassuk - elszakadt arckifejezés), szomorúság, meglepetés.

A fejlesztők azt állítják, hogy az eredmények nem túl pontosak, de látható, hogy a felmérés pontosabb, mint az életkor meghatározásánál. Példaként, sokan készíthetünk egy jól ismert fényképet Keanu Reevesről, amint egy padon ül és rág valamit. A Microsoft úgy véli, hogy olyan érzelem, mint a szomorúság, szinte hiányzik a színész arcáról (0,01831), arckifejezése semleges.

Egy másik jól ismert fényképen egy gyerek látható, akinek érzelmi állapotát "dühösnek" minősítették. Itt 0,98752 pontunk van.

A cég ilyen algoritmusokon végzett munkája nem játék. A vállalat igyekszik továbbfejleszteni a fotófelismerésért felelős szoftvert. Néhány hiba ellenére (különösen az életkor meghatározásával kapcsolatban) minden elég érdekesnek tűnik. A Microsoft azt tervezi, hogy megnyit egy API-t a képalkotó szolgáltatásaihoz, hogy olyan szoftvereket és webszolgáltatásokat készíthessenek, amelyek a képeken szereplő emberek érzelmei alapján rendezik a fényképeket.

Lássuk, milyen érzelmeket él át Bill Gates

Tim Cook

Heroes of Fallout 4

Ki szeretné próbálni az erőforrást működés közben? Nincs itt semmi probléma

Utasítás. Van egy nagyon érdekes játékom a számodra. Tudod, hogy minden ember néha boldog, néha meglepett vagy dühös. Most mutatok néhány képet, amin egy személy látható valamilyen érzelem arcán (például öröm, bánat, félelem, meglepetés, megvetés, undor, szégyen, érdeklődés, harag). Íme egy lista ezekről az érzelmekről. Próbáld meg meghatározni, hogy melyik érzelem tükröződik az egyes fényképeken.

A kísérletvezető felváltva 9 fényképet mutat, és a gyermek válaszát felírja az űrlapra a fénykép száma mellé.

Űrlap a válaszok regisztrációjához

Cikkszám Fénykép Az alany válasza jegyzet

622 Alkalmazás

A helyes válaszok számát veszik figyelembe, amely szerint az érzelem jelének arckifejezéssel történő meghatározásának kialakult képességét ítélik meg.

Az érzelmek meghatározása pantomim segítségével

Utasítás. Most pedig olyan képeket mutatok nektek, amik szintén egy-egy tapasztalt embert ábrázolnak. Próbálja meg meghatározni, hogy az egyes képeken milyen érzelmek vannak a személyben.

Az alanynak egymás után 8 képet mutat, és felírja válaszait az űrlapra.

Űrlap a válaszok regisztrációjához

Cikkszám Kép Az alany válasza Megjegyzések
M + . + .IP--MM

A helyes válaszok számát figyelembe veszik, és ezek alapján ítélik meg az érzelemjel pantomim segítségével történő meghatározásának kialakult képességét.

A kép kifejező oldalának észlelésének tanulmányozása

A technika a cikkből származik: Repina T. A. A rajz kifejező oldalának észlelése az óvodások által és hatása a gyermekeknek a könyv hőséhez való hozzáállására // Pszichológiai kérdések. - 1960. - 5. sz.

Tanulmányi előkészítés. Vegyél fel 10-14 festményreprodukciót, amelyeken az érzelmi tartalmat arckifejezések és gesztusok, a szereplők testtartása, a szereplők egymáshoz való viszonya vagy a környező tárgyakhoz való viszonya közvetíti.

Kutatások végzése. A kísérletet egyénileg 3-6 éves gyerekekkel végezzük. A gyermeknek egymás után mutatnak képeket, és megkérik, hogy beszéljen róluk. Ha nehezen tudja leírni, tegyen fel vezető kérdéseket (előre készüljön fel), hogy megtudja, hogyan érti a kép cselekményét, a szereplők érzelmi állapotát.

Adatfeldolgozás. A helyes válaszok számát akkor számoljuk, ha a gyerekek helyesen megértették a cselekményt és a szereplők érzelmi állapotát. A számlálás minden egyes képnél megtörténik. Az eredményeket táblázatba foglaljuk életkor szerint: 3-4 év, 4-5 év, 5-6 év, 6-7 év.

Megtudják, hogy a képeken ábrázolt érzelmi állapotokat milyen életkorban érzékelik helyesen a gyerekek. Hogyan érzékelik az öröm és a harag arckifejezését, a szomorúság és a szomorúság kifejezését, mivel érzelmi élményösszekapcsolják a kép élénk színeit, hiszen megértik a hős testtartása és gesztusai segítségével közvetített érzelmi tartalmat.

A gyermekek érzelmi megnyilvánulásainak tanulmányozása cselekményjelenetek lejátszásakor

A technika a következő könyvből származik: Óvodás gyermek érzelmi fejlődése / Szerk. A. D. Ko-sheleva. - M., 1985. - S. 100-102.

Tanulmányi előkészítés. Válasszon olyan helyzeteket a gyerekek életéből, amelyek közel állnak hozzájuk és érthetőek, például:

623. kiegészítés

1. Beteg anya ágyban fekszik, legidősebb lánya ( előkészítő csoport) testvért hoz (bölcsődei csoport).

2. Ebéd közben egy csoportban egy fiú véletlenül kiborítja a levest, minden gyerek felpattan és nevet; a fiú megijed, a tanárnő szigorúan elmagyarázza, hogy óvatosabbnak kell lenni, és itt egyáltalán nincs min nevetni.

3. A fiú elvesztette a kesztyűjét, és séta közben nagyon hideg volt a keze, de nem akarja megmutatni másoknak, hogy nagyon fázik.

4. A lányt nem vették fel a játékba, a szoba sarkába ment, lehajtotta a fejét és elhallgat, sírni készül.

5. Egy fiú (lány) örül barátjának (barátnőjének), akinek a rajza a legjobb lett a csoportban.

Készítsen fel 2-3 gyereket ezeknek a történeteknek a dramatizálására. Kutatások végzése. A vizsgálatot 4-7 éves gyerekekkel végezzük. Első epizód. Az előre felkészült gyerekek a csoport előtt eljátszanak egy jelenetet, majd a kísérletvezető megkérdezi a gyerekeket, hogy érzik magukat a jelenet szereplői. Második sorozat. A kísérletvezető leírja a helyzetet, és felajánlja annak ábrázolását.

helyzetem - mutasd meg az anya szomorú, szenvedő arcát, a szeszélyes síró fiút és a lány együttérző arcát.

II helyzet - megmutatni a tanár szigorú arcát, a nevető, majd zavarba jött gyerekeket, a fiú ijedt arcát.

III helyzet - hogy a fiú mennyire nem akarja kimutatni, hogy fázik.

IV helyzet - mutasd meg a sértődött lányokat.

V helyzet - mutass igazi örömet a másik iránt. Ha a gyerekek nem elég kifejezőek, vagy rosszul ábrázolják a szereplők érzéseit és érzelmeit, a kísérletvezető ismét leírja a szituációkat, és részletesen elmondja, hogy az egyes szereplők mit élnek át.

Adatfeldolgozás. Azt elemzik, hogyan testesítik meg a gyerekek a jelenetekben szereplő szereplők érzelmi állapotait. Következtetést tesznek az expresszív-utánzó kommunikációs eszközök kifejezőképességéről és gazdagságáról, valamint a más emberekkel való együttérzés képességének fejlődéséről. Az adatokat táblázatba foglaljuk (6. táblázat).

Manapság életünk egyre több aspektusa van kitéve automatizálásnak és matematikai feldolgozásnak, amelyek közül az egyik emlékezetünk fő része – fényképek, amelyek megörökítenek minket, barátainkat, emlékezetes pillanatokat és még sok mást. Nem is olyan régen a Microsoft már megtette az első és meglehetősen érdekes lépést a fényképfeldolgozásban - egy algoritmust fejlesztettek ki, amely lehetővé tette a rögzített emberek életkorának meghatározását (). De az idő nem áll meg, és ma a Microsoft által javasolt új algoritmusról fogunk beszélni - érzelemfelismerés egy fényképről.

Tudat alatt mindannyian tudjuk, hogyan határozzuk meg, hogy a képen látható személy nevet-e vagy szomorú, de vajon mérhetőek-e ezek az érzések? Kiderült, hogy lehet! És azonnal lássuk, mi is ez a dimenzió.

A kezdéshez lépjen a projekt oldalára https://www.projectoxford.ai/demo/emotion#detection.

És azonnal látunk egy példát az algoritmus működésére. Próbáljuk meg kitalálni, hogy mi az, majd végezzünk néhány kísérletet.

Tehát a bal oldalon van egy elemzett kép, amelyen az arcok kiemelve vannak. Azonnal világossá válik, hogy az algoritmus képes kiválasztani az összes arcot a fényképeken, és mindegyiket elemezni.

A jobb oldalon (és az arcokon lévő keretek fölé húzva) van egy csomó érthetetlen szöveget tartalmazó terület (a megadott szöveg az algoritmus eredménye speciális formátumban), bontsuk fel.

Az első sorban az "észlelési eredmény" - "elemzési eredmények" felirat.

"FaceRectangle" :(

Bal: 488

Felső: 263

Szélesség: 148

"Magasság": 148

"pontok" :(

"Düh": 9.075572e-13,

"Megvetés": 7.048959e-9,

"Undor": 1.02152783e-11,

"Fear": 1.778957e-14,

"Boldogság": 0,9999999,

"Semleges": 1,31694478e-7,

"Szomorúság": 6.04054263e-12,

Meglepetés: 3,92249462e-11

Mit jelent mindez?

A "FaceRectangle" töredék az egyes arcok keretének sarkainak koordinátáit tartalmazza, így egyértelmű, hogy melyik személy érzelmeit nézzük meg.

A „Scores” részlet magát az eredményeket mutatja be. Mert az algoritmust eddig próbaüzemmódban biztosítottuk, az eredményeket nem „humán” formában dolgozták fel, és „nyers formában” mutatják be. De ne félj - minden nagyon egyszerű! Van egy nyolc érzelem listája:

Harag - Harag

Kontextus - Megvetés

Undor - Undor

Félelem- Félelem

Boldogság - Boldogság

Semleges - Semleges

Szomorúság - Szomorúság

Meglepetés - meglepetés

És az egyes érzelmek hozzájárulása a képen szereplő személy általános érzelmi állapotához 0-tól 1-ig van jelölve - minél nagyobb a szám, annál jelentősebb az érzelem.

A vizsgált példában azt látjuk, hogy a képen az első személy rendelkezik a legkifejezettebb érzelmekkel - a boldogsággal. Ne féljen az olyan érthetetlen értékektől, mint a "3.92249462e-11" - ez a számírás matematikai formája, ahol az "e-11" azt jelzi, hogy hány karakterrel kell balra mozgatni a vesszőt, pl. a példában a "0.0000000000392249462" számot kapjuk, ami őrülten kicsi.

Most már fantáziálhat az érzelmek fényképről való felismerésére szolgáló algoritmus alkalmazásáról. Például egy közösségi oldalon látok egy fotóalbumot, amely a kiválasztott felhasználói állapottól függően (szomorúság, öröm vagy unalom) automatikusan átrendezi a fotókat a hangulatnak megfelelően. Vagy egy másik példa: képeket nézeget a hálózaton, a készülék kamerája lefényképezi Önt, és a hangulatot a megadott algoritmus határozza meg, majd olyan képeket kínálnak megtekintésre, amelyek megfelelnek például az érzelmi állapotnak. , ha szomorú, akkor a képek színesek és pozitívak lesznek.

Biztos vagyok benne, hogy az algoritmus számos felhasználási területet fog találni. Ezen túlmenően a Microsoft API-t biztosított az algoritmus eléréséhez, ami azt jelenti, hogy bárki használhatja, és többféle módon feldolgozási eredményeket biztosíthat.

És végül egy kicsit játszottam az automatikus érzelemfelismeréssel, és szeretném megmutatni, hogy mi lett belőle.

Az első fotó, amit megnéztem, természetesen a híres terminátor Mr. Equanimity volt. És az algoritmus támogatott engem - 0,89 semlegesség.


Miért ne próbálhatna ki valami szórakoztatót? És ki tud a legjobban grimaszolni és szórakozni – Musk első gondolata. És egyöntetűen - "boldogsággal" teli arc.


Mivel a filmek elmentek, meg kell próbálnunk a hobbitot. Itt én magam nem tudom meghatározni az érzelmek teljes skáláját az arcon, és az algoritmus egyetért velem. Abban a pillanatban azonban nem mentem keresztül egy érdekesen - ha a képen lévő keret fölé viszi az egérmutatót, megjelenik egy ablak az eredményekkel, jó kis dolog, különösen, ha sok az arc.


És még egyszer, Jim Carrey, nos, nekem úgy tűnik, hogy nagyon élénk érzelmei vannak – és a meglepetést nézzük. Úgy tűnik, nem tévedtem.


A képen egy fiatal férfi látható, akinek érzelmi állapotát dühösnek azonosítottuk.


Bonyolítsuk meg a feladatot, és adjunk az algoritmusnak előre elkészített fényképeket az érzelmekről. Az arcok természetesen nem egészen természetesek a tiszta állapotátvitelhez, de mindent nagyon nagy pontossággal határoztak meg.


Nos, kicsit félénkek vagyunk. Nem fotó, hanem egy portré, amit egy művész rajzolt a honlapunkról () és szerintem ez is jó eredmény!


Természetesen nem tudtam ellenállni, és megpróbáltam felismerni Cheburashka érzéseit, és semmi sem maradt - az algoritmus nem volt hajlandó feldolgozni a rajzfilmfigurát.

Összefoglalva a Microsoft által megvalósított, az érzelmek fényképről történő felismerésére szolgáló algoritmus áttekintését, szeretném megjegyezni, jó eredmények munkája és nagyszámú pontos felismerések. Demó kezdetnek csak egy nagyszerű eredmény! Várjuk az új érdekes megoldásokat.

Utasítás. Van egy nagyon érdekes játékom a számodra. Tudod, hogy minden ember néha boldog, néha meglepett vagy dühös. Most mutatok néhány képet, amin egy személy látható valamilyen érzelem arcán (például öröm, bánat, félelem, meglepetés, megvetés, undor, szégyen, érdeklődés, harag). Íme egy lista ezekről az érzelmekről. Próbáld meg meghatározni, hogy melyik érzelem tükröződik az egyes fényképeken.

A kísérletvezető felváltva 9 fényképet mutat, és a gyermek válaszát felírja az űrlapra a fénykép száma mellé.

Űrlap a válaszok regisztrációjához

Cikkszám Fénykép Az alany válasza jegyzet

622 Alkalmazás

A helyes válaszok számát veszik figyelembe, amely szerint az érzelem jelének arckifejezéssel történő meghatározásának kialakult képességét ítélik meg.

Az érzelmek meghatározása pantomim segítségével

Utasítás. Most pedig olyan képeket mutatok nektek, amik szintén egy-egy tapasztalt embert ábrázolnak. Próbálja meg meghatározni, hogy az egyes képeken milyen érzelmek vannak a személyben.

Az alanynak egymás után 8 képet mutat, és felírja válaszait az űrlapra.

Űrlap a válaszok regisztrációjához

Cikkszám Kép Az alany válasza Megjegyzések
M + . + .IP--MM

A helyes válaszok számát figyelembe veszik, és ezek alapján ítélik meg az érzelemjel pantomim segítségével történő meghatározásának kialakult képességét.

A kép kifejező oldalának észlelésének tanulmányozása

A technika a cikkből származik: Repina T. A. A rajz kifejező oldalának észlelése az óvodások által és hatása a gyermekeknek a könyv hőséhez való hozzáállására // Pszichológiai kérdések. - 1960. - 5. sz.

Tanulmányi előkészítés. Vegyél fel 10-14 festményreprodukciót, amelyeken az érzelmi tartalmat arckifejezések és gesztusok, a szereplők testtartása, a szereplők egymáshoz való viszonya vagy a környező tárgyakhoz való viszonya közvetíti.

Kutatások végzése. A kísérletet egyénileg 3-6 éves gyerekekkel végezzük. A gyermeknek egymás után mutatnak képeket, és megkérik, hogy beszéljen róluk. Ha nehezen tudja leírni, tegyen fel vezető kérdéseket (előre készüljön fel), hogy megtudja, hogyan érti a kép cselekményét, a szereplők érzelmi állapotát.

Adatfeldolgozás. A helyes válaszok számát akkor számoljuk, ha a gyerekek helyesen megértették a cselekményt és a szereplők érzelmi állapotát. A számlálás minden egyes képnél megtörténik. Az eredményeket táblázatba foglaljuk életkor szerint: 3-4 év, 4-5 év, 5-6 év, 6-7 év.



Megtudják, hogy a képeken ábrázolt érzelmi állapotokat milyen életkorban érzékelik helyesen a gyerekek. Hogyan érzékelik az öröm és a harag arckifejezését, a szomorúság és szomorúság kifejezését, milyen érzelmi élményhez kapcsolják a kép élénk színeit, hogyan értik meg a hős testtartásán és gesztusai által közvetített érzelmi tartalmat.

A gyermekek érzelmi megnyilvánulásainak tanulmányozása cselekményjelenetek lejátszásakor

A technika a következő könyvből származik: Óvodás gyermek érzelmi fejlődése / Szerk. A. D. Ko-sheleva. - M., 1985. - S. 100-102.

Tanulmányi előkészítés. Válasszon olyan helyzeteket a gyerekek életéből, amelyek közel állnak hozzájuk és érthetőek, például:

623. kiegészítés

1. Beteg anyuka fekszik az ágyban, a legidősebb lány (előkészítő csoport) hozza a testvérét (bölcsődei csoport).

2. Ebéd közben egy csoportban egy fiú véletlenül kiborítja a levest, minden gyerek felpattan és nevet; a fiú megijed, a tanárnő szigorúan elmagyarázza, hogy óvatosabbnak kell lenni, és itt egyáltalán nincs min nevetni.

3. A fiú elvesztette a kesztyűjét, és séta közben nagyon hideg volt a keze, de nem akarja megmutatni másoknak, hogy nagyon fázik.

4. A lányt nem vették fel a játékba, a szoba sarkába ment, lehajtotta a fejét és elhallgat, sírni készül.

5. Egy fiú (lány) örül barátjának (barátnőjének), akinek a rajza a legjobb lett a csoportban.

Készítsen fel 2-3 gyereket ezeknek a történeteknek a dramatizálására. Kutatások végzése. A vizsgálatot 4-7 éves gyerekekkel végezzük. Első epizód. Az előre felkészült gyerekek a csoport előtt eljátszanak egy jelenetet, majd a kísérletvezető megkérdezi a gyerekeket, hogy érzik magukat a jelenet szereplői. Második sorozat. A kísérletvezető leírja a helyzetet, és felajánlja annak ábrázolását.

helyzetem - mutasd meg az anya szomorú, szenvedő arcát, a szeszélyes síró fiút és a lány együttérző arcát.

II helyzet - megmutatni a tanár szigorú arcát, a nevető, majd zavarba jött gyerekeket, a fiú ijedt arcát.



III helyzet - hogy a fiú mennyire nem akarja kimutatni, hogy fázik.

IV helyzet - mutasd meg a sértődött lányokat.

V helyzet - mutass igazi örömet a másik iránt. Ha a gyerekek nem elég kifejezőek, vagy rosszul ábrázolják a szereplők érzéseit és érzelmeit, a kísérletvezető ismét leírja a szituációkat, és részletesen elmondja, hogy az egyes szereplők mit élnek át.

Adatfeldolgozás. Azt elemzik, hogyan testesítik meg a gyerekek a jelenetekben szereplő szereplők érzelmi állapotait. Következtetést tesznek az expresszív-utánzó kommunikációs eszközök kifejezőképességéről és gazdagságáról, valamint a más emberekkel való együttérzés képességének fejlődéséről. Az adatokat táblázatba foglaljuk (6. táblázat).

Stimuláló anyag: a Luscher-teszt színes kártyáit használják, amelyeket számokkal jelölnek: 0 - szürke, 1 - kék, 2 - zöld, 3 - piros, 4 - sárga, 5 - lila, 6 - barna, 7 - fekete.

A következő lista használatos:

1) anyám,

2) apám,

3) testvére (ha a gyermeknek van ilyen),

4) hangulatom az iskolában,

5) az otthoni hangulatom,

7) tanár,

A magatartás rendje játéknak tűnik. Mind a 8 kártya véletlenszerűen van kirakva a gyermek elé fehér alapon.

Utasítás: "Kérlek, mondd meg, melyik szín illik leginkább az édesanyád ábrázolására?" stb. a lista szerint. Ezt követően a színeket a gyermek preferencia szerint rangsorolja, kezdve a „legszebb, kellemesebb”-től és a „legcsúnyább, kellemetlen”-ig. Így a listáról minden személy megkapja a saját rangját.

Minél magasabb az érzelmi vonzerő, a közelség, a szimpátia és kevesebb a konfliktus valakivel való kapcsolatokban, annál preferáltabb színnel kell társítania ezeket az embereket a gyermeknek. Éppen ellenkezőleg, a valakivel szembeni negatív, ellenséges hozzáállást a hozzá rendelt szín jelzi, amely a színelrendezésben a legnegatívabb rangot kapta.

2. MELLÉKLET

Módszertan "A képen látható emberek érzelmi állapotának megértésének tanulmányozása"

Stimuláló anyag: portré képek (fényképek), amelyek gyermekeket és felnőtteket ábrázolnak, akiknek mind a fő érzelmek (öröm, félelem, harag, bánat) és árnyalataik kifejezett érzelmi állapota van; cselekményképek, amelyek gyermekek és felnőttek pozitív és negatív cselekedeteit ábrázolják.

A magatartás rendje. Két sorozat egyénileg kerül megrendezésre általános iskolás korú gyerekekkel.

Első epizód. Utasítás: a gyermeknek következetesen portréképeket mutatnak, amelyek gyermekeket és felnőtteket ábrázolnak, és kérdéseket tesznek fel: „Ki van a képen? Mit csinál? Hogy érzi magát? Hogyan tippeltél róla? Írd le, mit látsz a képen!

Második sorozat. Utasítás: a gyermeknek folyamatosan cselekményképeket mutatnak, és kérdéseket tesznek fel: „Mit csinálnak a gyerekek (felnőttek)? Hogyan csinálják (barátságos, veszekedő, egymásra nem figyelő stb.)? Hogy találtad ki? Ki a jó és ki a rossz? Hogy találtad ki?"

Az eredmények feldolgozása és értelmezése. A helyes válaszok számát a különböző korcsoportokban sorozatonként és képenként külön-külön számoljuk. Döntse el, hogy a gyerekek megértik-e érzelmi állapotok felnőttek és társaik, milyen jelek vezetik őket, kit értenek meg jobban - felnőttet vagy kortársat. Határozza meg ezen mutatók függését a gyermekek életkorától.

3. FÜGGELÉK

Módszertan "Érzelmek azonosítása fényképekről"

Stimuláló anyag: egy 9 fényképből álló készlet, amely egy olyan személyt ábrázol, akinek az arca valamilyen érzelmet tükröz, és érzelmek listája.

A magatartás rendje. Utasítások: „Van egy nagyon érdekes feladatom. Tudod, hogy minden ember néha boldog, néha meglepett vagy dühös. Most mutatok néhány fényképet, amelyek egy személyt bizonyos érzelmi állapotban mutatnak be (például öröm, bánat, félelem, meglepetés, megvetés, undor, szégyen, érdeklődés, harag). Íme egy lista ezekről az érzelmekről. Próbálja meg meghatározni, hogy az egyes fényképek milyen érzelmeket tükröznek.

A kísérletvezető felváltva 9 fényképet mutat, és a gyermek válaszát felírja az űrlapra a fénykép száma mellé.

Űrlap a válaszok regisztrációjához

Az alany válasza

jegyzet

Az eredmények feldolgozása és értelmezése. A helyes válaszok számát veszik figyelembe, amely szerint a személy érzelmeinek arckifejezéssel történő meghatározására való képesség kialakulását ítélik meg. A helyes válaszok 50%-a vagy kevesebb az érzelmek megkülönböztetésének nagyon alacsony szintjét jelzi.