14. Gesty. Akwizycja czy znacznie

W artykule przedstawiamy problem relacji pomiędzy akwizycją ruchu gestu w stosunku do metod określania jego znaczenia. Rozważania będą prezentowane w kontekście wspólnego projektu Zakładu Badań Wizualnych i Interakcji ASP Katowice z Instytutem Informatyki Teoretycznej i Stosowanej PAN w Gliwicach.

Projekt dotyczy tworzenia interfejsów użytkownika opartych na gestach. Podstawą prac jest koncepcja połączenia podejścia obejmującego analizę informatyczną (zagadnienia przetwarzania i klasyfikacji sygnałów ruchowych – IITiS Pan Gliwice) z analizą semantyczną (znaczeniową) gestów, w oparciu o odpowiednio przygotowaną, obszerną bazę gestów (ZBWiI ASP Katowice). Istotnym elementem projektu jest opracowanie metod służących do określania znaczeń gestów w komunikacji pomiędzy człowiekiem, a komputerem – ze szczególnym uwzględnieniem interakcji dwustronnej. Podstawą opracowania metod określania znaczeń gestów jest koncepcja pola semantycznego gestu – rozumiane jako zbiór znaczeń przypisywanych danemu gestowi.

Uwzględniając topologię gestu według Davida McNeill profesora Uniwersytetu w Chicago („Hand and mind. What Gestures Reveal about Though”), który uważa, że gesty są integralną częścią języka, w równym stopniu jak słowa, frazy i zdania i należą do jednego systemu oraz jego pogląd, że gesty, podobnie jak pojęcia, mogą obrazować procesy myślowe człowieka – w konkluzji chcemy postawić pytanie – odwracając niejako tytuł – czy znacznie może mówić o ruchu.

Wiesław Gdowicz
Zakład Badań Wizualnych i Interakcji ASP Katowice ul. Raciborska 37
wieslawgdowicz@gmail.com

Marta Więckowska
Zakład Badań Wizualnych i Interakcji ASP Katowice ul. Raciborska 37
aspmarta@gmail.com

IV edycja seminarium naukowego „Interfejs Użytkownika – Kansei w praktyce”, organizowanego przez Katedrę Multimediów Polsko-Japońskiej Wyższej Szkoły Technik Komputerowych w Warszawie, 30 maja 2009
http://kansei.pjwstk.edu.pl/program.html

Copyright is held by the author/owner(s).
Kansei 2009, May 30, 2009, Warszawa, POLAND
ACM 1-xxxxxxxxxxxxxxxxxx.

Keywords
Gest, interfejs, pole semantyczne, analiza semantyczna..
ACM Classification Keywords
H.5.2 [User Interfaces]: Theory and Methods.
H.1.2 [User/Machine Systems]: Human information processing

Abstrakt

W artykule przedstawiamy problem relacji pomiędzy akwizycją ruchu gestu w stosunku do metod określania jego znaczenia. Rozważania będą prezentowane w kontekście wspólnego projektu Zakładu Badań Wizualnych i Interakcji ASP Katowice z Instytutem Informatyki Teoretycznej i Stosowanej PAN w Gliwicach.

Projekt dotyczy tworzenia interfejsów użytkownika opartych na gestach. Podstawą prac jest koncepcja połączenia podejścia obejmującego analizę informatyczną (zagadnienia przetwarzania i klasyfikacji sygnałów ruchowych – IITiS Pan Gliwice) z analizą semantyczną (znaczeniową) gestów, w oparciu o odpowiednio przygotowaną, obszerną bazę gestów (ZBWiI ASP Katowice). Istotnym elementem projektu jest opracowanie metod służących do określania znaczeń gestów w komunikacji pomiędzy człowiekiem, a komputerem – ze szczególnym uwzględnieniem interakcji dwustronnej. Podstawą opracowania metod określania znaczeń gestów jest koncepcja pola semantycznego gestu – rozumiane jako zbiór znaczeń przypisywanych danemu gestowi.

Uwzględniając topologię gestu według Davida McNeill profesora Uniwersytetu w Chicago („Hand and mind. What Gestures Reveal about Though”), który uważa, że gesty są integralną częścią języka, w równym stopniu jak słowa, frazy i zdania i należą do jednego systemu oraz jego pogląd, że gesty, podobnie jak pojęcia, mogą obrazować procesy myślowe człowieka – w konkluzji chcemy postawić pytanie – odwracając niejako tytuł – czy znacznie może mówić o ruchu.

Wprowadzenie

Gesty są istotnym elementem komunikacji między istotami żywymi, a w szczególności pomiędzy ludźmi. Stanowią element komunikacji interpersonalnej i łączą przestrzeń aktywności ruchowej człowieka z przestrzenią sensu. Z tego powodu można je rozpatrywać z co najmniej dwóch punktów widzenia: (a) Techniczne i informatyczne metody rejestracji ruchu w przestrzeni. (b) Metody odczytywania i interpretacji gestów.
Myślenie o komunikacji pomiędzy człowiekiem, a komputerem powinno uwzględniać fakt rozumienia technicznych aspektów urządzenia oraz natury interpersonalnej komunikacji człowieka.
Gest będąc ruchem, który ma znaczenie – jest pośrednikiem czyli znakiem pomiędzy komunikującymi się. Gest nie tylko pośredniczy, ale również poprzez niego wyraża się określona myśl. Należy więc gest rozpatrywać jako element pośredniczący oraz jako element wyrażający. Te dwie strony gestu – pośredniczenie i wyrażanie – stanowią nierozłączną cechę gestu. Można więc zapytać – widząc dany gest – jak pośredniczy i jak wyraża. Aspekt pośredniczenia gestu ma charakter materialny związany z percepcją przedmiotu poruszającego się w przestrzeni. Aspekt wyrażania gestu ma charakter umysłowy związany z procesem znakowania myśli.

Wstępna analiza

Analiza gestów jako elementu komunikacji rozpoczyna się od zebrania informacji o roli gestów w już istniejących systemach komunikacji. W ten sposób wiadomo jak do tej pory i gdzie, jest używany, odczytywany i interpretowany gest. Pole analizy wstępnej wyznaczają takie zagadnienia jak:
(a) Sztuczne języki maszynowe i systemy kodów informacyjnych – większość gestów w tych systemach pełni rolę elementu systemu połączonego jakąś regułą syntaktyczną z pozostałymi. Można tu analizować zbiór znaków oraz reguły syntaktyczne pomiędzy nimi. Większość tych języków i systemów jest ograniczona do konkretnej sytuacji i stanowi zbiór zamknięty.
b) Język i systemy zapisów do komunikacji z ludźmi upośledzonymi – język migowy i system zapisu CH. Blissa oraz system gestów wspomagających SIS – to zagadnienie jest istotne przede wszystkim dlatego, że uwzględnia bardzo specyficzne cechy komunikacji, często nie występujące powszechnie.
(c) Kinetografia – system zapisu Labana – system zapisu ruchu w przestrzeni ciała człowieka jest wart uwagi ze względu na sposób transformacji ruchu trójwymiarowego na dwuwymiarowy zapis.
(d) Analiza materiału filmowego pod kątem gestów – film niemy – gest w przekazie myśli za pomocą obrazu filmowego jest celowo przygotowany i składa się z wielu elementów. Wieloskładnikowość gestu filmowego jest odbiciem struktury przekazywanej treści. Liniowy i sekwencyjny charakter filmu pokazuje nowe aspektu gestu.
(e) Semiologia – zwłaszcza w ujęciu U. Eco – teoretyczne opracowanie przestrzeni znaczeniowej gestu łączy ją z jednej strony ze strukturą języka, z drugiej natomiast z szeroko rozumianą kulturą.
Zebranie rezultatów wstępnej analizy tych zagadnień pozwalają na określenie charakteru gestu w stosunku do jego fizycznego użycia, jak również jego funkcji znaczeniowych.


1 Przykład analizy gestów w filmie Chaplina „Burlesque on Carmen”.

Gest i znak

Nie każdy ruch jest gestem. To znaczy, że w nieogarnionym świecie ruchów jakie wykonuje człowiek istnieje określony zbiór ruchów, które możemy nazywać gestami. Jaki jest ten zbiór? Jakie musi spełnić warunki ruch, aby mógł należeć do tego zbioru? Jakie są kryteria przynależności? Czy są one stałe czy zmienne? Czy bycie w zbiorze gestów jest bezwarunkowe tj. jeżeli ruch staje się gestem to jest nim już zawsze? To kilka pytań, które wydają się być istotne przy opisie gestu.

Krótkie rozwinięcie poszerzy pole problemów.
1. Gest będąc ruchem, który ma znaczenie – jest pośrednikiem czyli znakiem pomiędzy komunikującymi się. Tutaj gest jest rozumiany bardzo szeroko, z uwzględnieniem całego kontekstu sytuacji pośredniczenia. Można powiedzieć, że w geście jest zawarta cała przestrzeń „pomiędzy” komunikującymi się osobami. Dodatkowym problemem jest odległość pomiędzy komunikującymi się – ten sam gest zmienia swoje znaczenie przy zmiennej odległości nadawca – odbiorca.
2. Gest nie tylko pośredniczy, ale również poprzez niego wyraża się określona myśl. Gest jako element pośredniczący jest znakiem, a co za tym idzie, wszystkie cechy znaku mają tutaj też zastosowanie.
3. Należy więc gest rozpatrywać jako element pośredniczący oraz jako element wyrażający. To stwierdzenie podkreśla łączność tych dwóch wymiarów gestu oraz oznacza, że gest w wymiarze pośredniczenia nie może być rozpatrywany bez gestu w wymiarze wyrażania i na odwrót.
4. Aspekt pośredniczenia gestu ma charakter materialny związany z percepcją przedmiotu poruszającego się w przestrzeni. Wszystko co jest związane z percepcją gestu oraz sposobami jego postrzegania.
5. Aspekt wyrażania gestu ma charakter umysłowy związany z procesem znakowania myśli. Analiza całego procesu przekazu informacji, uwarunkowania osobowe, kulturowe, społeczne. Konwencje i systemy gestów.

Co wiemy

Początek badań nad komunikacją niewerbalną sytuuje się w drugiej połowie XX wieku, kiedy to Ruesch i Kees (18) analizując wartość semantyczną komunikatu stwierdzili, że „zrozumienie komunikatu to nie tylko rozkodowanie dosłowne informacji, ale również uchwycenie jego wartości pobocznych”. W swojej propozycji przedstawiają oni akt komunikacji traktowany jako informacje wielokanałowe. Oznacza to, że funkcje informacyjne pełnią również takie elementy jak postawa ciała, spojrzenie czy dystans przestrzenny. Badania obejmujące akty komunikacji dotyczą trzech typów komunikacji niewerbalnej – parajęzyk, kinezyka i proksemika. Klasyfikacja gestów została przyjęta z propozycji Davida McNeilla z Uniwersytetu w Chicago (19) i obejmowała pięć podstawowych typów gestów: (1) gesty deiktyczne; (2) uderzenia (beats); (3) gesty kohezywne (spajacze tekstu); (4) gesty ikoniczne; (5) gesty metaforyczne.

Większość omówień i refleksji dotyczących komunikacji rozumianej jako akt międzyludzkiej komunikacji akcentuje przede wszystkim werbalny jej charakter. Mogło to być konsekwencją zbyt sztywnego przyjęcia teorii aktów mowy J. L. Austina (20). Elementy niewerbalne aktów mowy były traktowane jako mało istotne w kontekście językowej przestrzeni mowy. Rozwój urządzeń reagujących na ruch w obrębie rejestrowanego obrazu, zwrócił uwagę na gesty jako istotne elementy w komunikacji wizualnej. Przeniesienie ciężaru komunikacyjnego na elementy niewerbalne niosło za sobą określone skutki. Jednym z nich jest próba opisywania i klasyfikacji gestów tak jakby były elementami struktury językowej. Najnowsze interdyscyplinarne badania (11) prowadzone między innymi przez zespół Katedry Psychologii Eksperymentalnej KUL pod kierunkiem prof. Piotra Francuza, pokazują jak ważną rolę w komunikacji odgrywają kody wizualne. Podjęte próby poszukiwania uniwersalnego kodu wizualnego, który stanowiłby podstawę rozpoznawania spostrzeganego obiektu jako określonej figury przyniosły bardzo dobre rezultaty. Potwierdzają one, że kluczową rolę w komunikacji pełni kategoria percepcyjna, która pozwala przekazywać treść obrazów za pomocą kształtu widzianych lub wyobrażonych rzeczy. Badacze twierdzą, że kształt i jego specyficzne właściwości organizują procesy identyfikacji, interpretacji i transformacji danych sensorycznych i czynią to bez konieczności odwoływania się do struktur językowych.

Próba utworzenia klasyfikacji gestów została opisana w „Visual and Linguistic Information in Gesture Classification „(2). Przegląd stosowanych w psychologii i językoznawstwie klasyfikacji gestów pozwala na przyjęcie koncepcji podziału zbioru gestów na cztery klasy: (a) deictic – osadzony w fizycznej przestrzeni, odnosi się do jednostek i lokalizacji lub do przestrzeni, która wcześniej jest zaznaczona jako relacja idei, koncepcji; (b) iconic – gesty przedstawiające wybrane cechy akcji lub opisywanego zdarzenia np. „jeździliśmy po całym mieście” – pokazywanie ruchem ręki trasy; (c) metaphoric – Gesty są również reprezentacją, ale to co pokazują nie wiąże się z fizycznymi formami, forma gestów wywodzi się z powszechnych metafor np. „to się ciągle powtarza” – koliste ruchy dłoni; (d) beat – Te gesty są związane z ruchami np. batuty. Nie zmieniają się pod wpływem towarzyszącej treści mówionej . Pełnią pragmatyczną rolę, pojawiając się jako komentarz, wsparcie…. Mówiący podkreślają ważne punkty swojej wypowiedzi ruchem ręki w dół wykorzystując beat-rytmiczne gesty.
Za McNeill’em (19) autorzy sugerują, by nie były one traktowane jako oddzielne kategorie, ale jako możliwość kombinacji różnych cech. Badania dowiodły, że nie ma stałego zbioru ruchów – trajektorii ruchu, który by definiował każdą klasę gestów. Gesty są określane bardziej w kategoriach roli jaką pełnią podczas rozmowy, niż w kategoriach specyficznego ruchu ręki. Przedstawione są relacje z dwóch eksperymentów, które miały dać odpowiedzi na następujące pytania: (A) W jakim zakresie nasza percepcja rodzajów gestów zależy od wizualnej analizy, a w jakim zakresie od cech językowych? (B) Czy można zbudować system klasyfikacji gestów używając tylko językowych danych? Jakie językowe cechy niosą najwięcej informacji przydatnych do tego celu?

Odmienne podejście prezentuje „Towards Natural Gesture Synthesis …”(4). Podstawą eksperymentów jest chęć zapewnienia postaciom wirtualnym gestów bardziej naturalnych. Analizie zostały poddane materiały video przedstawiające spikerów telewizyjnych wykonywujących określone gesty. Materiał został tak przygotowany, aby można go poddać automatycznej analizie przy pomocy urządzenia dekodującego. Dekoder rozbija ścieżkę czasową gestów i mowy na elementy związane z wokalizacją mowy (preperation, stroke, hold czyli g-faza). Poprzez dodanie adnotacji zebranych z innych źródeł informacji o gestach tworzy się profil gestu. Następnie z całego zestawu treści eliminuje się słowa i dźwięki nieistotne. Tak przygotowany materiał stanowi podstawę do tworzenia skryptu dla animacji. Cechą charakterystyczną tego podejścia jest ścisłe połączenie gestu jako ruchu z dynamiką mowy i wewnętrzną strukturą leksykalną.
Badania nad metodą opracowywania danych dotyczących gestykulacji (1) prowadzone są w taki sposób, aby mogły one zostać zastosowane do multimedialnych aplikacji w formie interakcji z wirtualnym środowiskiem. Rozpoznawania ciągłych gestów jest część większego badania łączącego analizę i zastosowanie naturalnych gestów jako dane dla systemów komputerowych. Nadrzędnym celem jest badanie bardziej naturalnej interakcji, gdzie naturalny oznacza, że system komputerowy adaptuje się do możliwości i ograniczeń człowieka, a nie na odwrót. W tym przypadku mamy raczej do czynienia z akwizycją ruchu przy pomocy czujników ruchu umieszczonych w kombinezonie. Chodziło o odpowiedź na pytania o rodzaj gestów wykonywanych podczas przekazywania jakiegoś opisu oraz problem scharakteryzowania gestów tak, aby komputer mógł je zrozumieć.

Reasumując prace prowadzone na temat semantycznych właściwości gestu w większości wypadków łączą ekspresję ruchową gestów z artykulacją mowy jako faktami nierozłącznymi. To utrudnia zrozumienie roli znaczenia w całym procesie przekazywania gestu. Utrudnione jest również zrozumienie korelacji pomiędzy znaczeniem gestu rozumianego jako znak przekazywanej myśli z opisem ruchu w przestrzeni.

Projekt

Projekt, który został rozpoczęty w Zakładzie Badań Wizualnych i Interakcji ASP Katowice zakłada opracowanie metod służących do określania znaczeń gestów w komunikacji pomiędzy człowiekiem, a komputerem – ze szczególnym uwzględnieniem interakcji dwustronnej.
Podstawą opracowania metod określania znaczeń gestów jest koncepcja pola semantycznego gestu, które jest rozumiane jako zbiór znaczeń przypisywanych danemu gestowi. Z faktu przypisywania jednemu gestowi wielu znaczeń można wyciągnąć wniosek o ich hierarchizacji w obrębie pola semantycznego. Im większe jest prawdopodobieństwo wystąpienia danego znaczenia przypisywanego określonemu gestowi, tym wyżej w hierarchii wszystkich przypisywanych temu gestowi znaczeń, znajduje się to znacznie. Najwyżej stojące w hierarchii znacznie może być uznane za najbardziej naturalne znaczenie przypisane temu gestowi.


2 Pole semantyczne

Obszar problemowy

1. Analiza sposobów interpretacji gestów w różnych dziedzinach. Zebranie rezultatów wstępnej analizy tych zagadnień pozwoli na określenie charakteru gestu w stosunku do jego fizycznego użycia jak również jego funkcji znaczeniowych. Pozwoli również na teoretyczne opracowanie zagadnienia gestu jako znaku myśli od strony epistemologicznej.
2. Metoda określania znaczeń gestów. Koncepcja pola semantycznego jest nowym sposobem rozwiązania kwestii znaczeń gestów. Opiera się na danych, zebranych w testach semantycznych, czterech zbiorów pre-gestów poddanych obróbce statystycznej mającej na celu określenie stopnia prawdopodobieństwa występowania znaczenia tego samego pre-gestu w każdym zbiorze. A następnie porównanie miejsca w hierarchii prawdopodobieństw znaczeń danego gestu pomiędzy zbiorami.
3. Rejestracja pre-gestów. Nie wszystkie ruchy ciała jakie wykonuje człowiek są gestami. Zbiór możliwych pozycji części ciała i ich ruchów nazywamy pre-gestami i ujmujemy w dwie tablice morfologiczne. Tablicę morfologiczną 1 – to zbiory widoków elementów ciała zestawione ze zbiorami ruchów tych elementów oraz tablicę morfologiczna 2 – to zbiory widoków jednych elementów ciała (np. prawa ręka) zestawione z innymi elementami ciała (np. lewa ręka). Ta wstępna rejestracja ma stanowić bazę do wyboru pre-gestów, które będą oddane testom semantycznym. Rejestracja gestów jest niezbędnym elementem podejmowanego projektu i obejmuje rejestrację wstępną (budowa tablic morfologicznych) oraz rejestrację właściwą (budowa zbiorów pre-gestów). Rejestracja właściwa to przygotowany materiał do testów semantycznych czyli cztery zbiory pre-gestów.


3 Morfologia gestów – karty gestów

4. Testy semantyczne. Pozwalają na wyznaczenie pola semantycznego gestu czterech zbiorów pre-gestów: (a) Zbiór pre-gestów ruchomych w przestrzeni rzeczywistej;
(b) Zbiór pre-gestów nieruchomych;
(c) Zbiór pre-gestów ruchomych;
(d) Zbiór pre-gestów ruchomych w przestrzeni wirtualnej.
Testy mają na celu zebranie możliwych znaczeń dla prezentowanych pre-gestów. Testy są przeprowadzone na reprezentatywnej grupie 30 osób – wybranych na podstawie próby losowej warstwowej – dla każdego zbioru pre-gestów. Celem badanych jest podanie trzech znaczeń na podstawie obserwowanego pre-gestu. Otrzymane wyniki zostają opracowane w taki sposób, by można było określić, które znaczenie każdego pre-gestu z czterech badanych zbiorów jest najbardziej prawdopodobne oraz jaki jest rozkład prawdopodobieństw pozostałych znaczeń. Wyniki są opracowywane statystycznie z wyszczególnieniem metod korelacyjnych oraz analiz ścieżkowych. Przygotowano odpowiednią aplikację (aktywny PDF) pozwalającą na przeprowadzanie testów semantycznych dla zbiorów b i c za pomocą Internetu. Tutaj próba badanych jest przypadkowa uzależniona od odwiedzających lub odpowiadających na wysłany mail.


4 Przykładowa tabela badań semantycznych

5. Katalogi gestów. Każdy katalog będzie zawierał kartę opisu gestu, orientacyjny schemat gestu, lista znaczeń, określenie pola semantycznego gestu, ustalenie hierarchii ważności znaczenia w obrębie każdego pola semantycznego oraz mapę pola semantycznego.
6. Interfejs. Interpretacja przez komputer ludzkich gestów. Głównym przedmiotem projektu jest opracowanie metod określania znaczeń gestów. Interdyscyplinarny charakter projektu ujawni się przede wszystkim w zastosowaniu wypracowanych metod do koncepcji interfejsu sterowanego gestami, który rejestruje wybrane gesty dłoni i przekształca je na polecenia sterujące aplikacją. Przy pomocy tej aplikacji będzie można przeprowadzać testy wizualne. Ważnym elementem tego interfejsu jest możliwość odczytu nie tylko samej decyzji użytkownika, ale również fizycznych cech realizacji tej decyzji, takich jak szybkość reakcji, gwałtowność itp. Te elementy w połączeniu z naturalnością, jaką daje możliwość wykorzystania dłoni do sterowania przebiegiem testu, umożliwiają dokładne przeanalizowanie parametrów reakcji użytkownika.

Growth point

Analizy przeprowadzone przy okazji tego projektu ujawniły wiele nowych aspektów dotyczących gestów, które wykraczają poza ścisłą problematykę komunikacji człowiek-komputer. Jednym z nich są wnioski z badań Davida McNeilla profesora, językoznawcy pracującego na Uniwersytecie w Chicago. Badania, których się podjął miały na celu określenie funkcji i pozycji gestów w procesie komunikowania oraz ich relacji do języka. Podstawą teorii nakreślonej przez McNeilla jest stwierdzenie, że gesty są integralną częścią języka, a nie tylko stanowią dla niego tło.

W badaniach, które przeprowadzał osoby biorące w nich udział opisywały wcześniej prezentowane im filmy. Przed przystąpieniem do prezentacji filmu, osoby zostały poinformowane, że ich zadaniem będzie opowiedzenie drugiej osobie oglądanej historii. Wypowiedź każdego badanego była filmowana, a następnie analizowana pod względem występujących gestów i ich relacji do wypowiadanych słów. W jedynym z eksperymentów osoba opisywała epizod klasycznej bajki: „Tweety and Sylvester”. Analizie McNeill poddał fragment opisu:
” i ptaszek Tweety biegnie i łapie kulę do kręgli i upuszcza ją w dół rynny”
“and Tweety Bird runs and gets a bowling ba[ll and drops it down the drainpipe].”
Opowiadaniu w tym fragmencie towarzyszyły gesty: ruch dwóch rąk w dół rozpoczynający się od poziomu klatki piersiowej. Wyglądało to tak, jakby ręce coś wpychały – duży kolisty obiekt. Ruch dłoni w dół odbywał się dokładnie w momencie wypowiadania słów „it down”.
Ten właśnie moment wypowiedzi jest przykładem połączenia gestu i słowa: Słowo „it down” + ruch dłoni w dół.

5 Dwa kanały przekazu

Gesty i język to dwa różne kanały przekazywania informacji, za pomocą których można wyrażać te same myśli, ale przy użyciu różnych semiotycznych środków: obrazu i dźwięku. Gest jest warunkowany obrazem i w całości stanowi znaczenie, natomiast w języku na ogólne znaczenie składają się znaczenia poszczególnych słów z umownej morfologii słów. Forma gestu natomiast kształtuje się w momencie mówienia i jest zdeterminowana poprzez znaczenie, jakie gest ma nieść oraz kontekst, w którym się znajduje.
Fakt, że są to tak różne kanały przekazywania myśli jest podstawą teorii dialektyki języka i gestu. Kombinacja języka i gestu – dwóch sprzeczności jest konstrukcją dynamiczną, która dąży do stanu, w którym oba elementy będą wspólnie wyrażać myśli.
Głównymi elementami dialektyki są tzw. zwane punkty wzrostu (Growth Point). Punkty wzrostu są to momenty, w których następuje synchronizacja gestu z mową, kiedy łączą się dwa przeciwstawne sobie sposoby wyrażania – obraz i język. Punkt wzrostu (the growth point) przebiegał właśnie podczas wypowiadania słów „it down” i pokazywania pchnięcia w dół.

6 Growth Point

Co się dzieje przed i po tym szczególnym punkcie? W procesie tym możemy wyróżnić pewną cykliczność – czas życia gestu:
Przygotowanie: Dłonie unoszą się w górę od poziomu łona mówcy – ruch przygotowujący do pchnięcia w dół.
Przetrzymanie: Następnie ręce zatrzymały się na końcu wypowiadania słowa „drops”
Gest właściwy: Następnie pojawił się gest stroke – pchnięcie w dół – dokładnie w czasie wypowiadania słów „it down”
Przetrzymanie gestu właściwego: Ruch kończył się dokładnie w połowie wypowiadania słowa „down”, ręce znowu zamarły w powietrzu, dopóki nie zostało zakończone wypowiadane słowo (drugie podkreślenie).
Przejście w stan spoczynku: Wreszcie dłonie powróciły do stanu spoczynku (aż do drugiego kwadratowego nawiasu).

Unpackaging – „rozpakowywanie znaczenia” – konstruowanie wypowiedzi – odnajdywanie najlepszej formy by wyrazić myśli, by przekazać ściśle określone znaczenie.

Te dwie pauzy – przytrzymanie i kontynuowanie fazy przygotowawczej – ujawnia, że pchnięcie w dół było dokładnie nacelowane na fragment wypowiedzi „it down”: pchnięcie w dół było przytrzymane dopóki odpowiedni fragment wypowiedzi się nie rozpoczął i trwało – pomimo przerw w ruchu, dopóki odpowiedni fragment wypowiedzi się nie zakończył.

Nie jest możliwe zrozumienie źródła Growth Point bez opracowania jego relacji do kontekstu. Kontekst budowany jest poprzez słowa – gesty poprzedzające growth point. Historia opisywanej kreskówki polega na ciągłych próbach pochwycenia Tweetego przez Sylwestra. Mamy do czynienia z dwoma bohaterami, którzy stanowią dwie przeciwstawne siły. Ruch dłoni w dół, podczas wykonywania opisywanego gestu omija czasownik „drops” pomimo, iż określa on ruch kuli w dół. Dzieje się tak dlatego, ponieważ czasownik ten nie określa roli jaką pełni kula. Kula wyraża antagonistyczną siłę przeciwko Sylwestrowi, przeciwko jego działaniu. Czasownik „drops” – upuszczać określa co Tweety zrobił, nie określa zamierzonego znaczenia obrazu. Sens jaki chciała przekazać osoba mówiąca nie dotyczył upuszczania czegoś, ale przedstawienia ruchu kuli jako obrazu antagonizmu pomiędzy bohaterami filmu.
Z tego względu, szczegóły dotyczące połączenia gestu i mowy stanowią konstrukcję, którą tworzy osoba mówiąca.

7 Unpackaging – rozpakowywanie znaczenia

Osoba w trakcie opisu poszukuje jak najlepszej formy, by wyrazić swoją myśl. Do tego celu wykorzystuje dwa całkowicie odmienne kanały: obraz i słowo. W momencie wyboru słów: „drops it down” osoba opisująca kreskówkę uzupełnia znaczenie tego wyrażenia o gest, który obrazuje siłę antagonistyczną, która została pominięta w kanale lingwistycznym. I w tym momencie układ dialektyczny pomiędzy obrazem, a słowem kończy się. Kończy się właśnie w momencie występowania Growth Point, kiedy język i gest nawzajem się uzupełniają, a dynamiczność (gest) krzyżuje się ze statycznością (słowo).

Cykliczność związana z występowaniem gestu ma swoje uzasadnienie. Elementy poprzedzające growth point stanowią konstrukcję wypowiedzi, której zwieńczeniem jest Growth Point. Gesty, które charakteryzują się dynamicznością, których forma kształtuje się w momencie mówienia „potrafią” przewidzieć lingwistyczną treść, tak by w odpowiednim momencie połączyć się z nią i uzupełnić jej znaczenie. Uzupełnić o znaczenie, które nie tyle zostało pominięte w słowach, ale które lepiej może zostać przekazane przy pomocy gestu.

Gesty i mowa są nie tylko wiadomością czy sposobem komunikacji, ale są sposobem rozumowego istnienia w momencie mówienia – gesty są przenoszeniem myśli do stanu istnienia na konkretnej płaszczyźnie w rzeczywistości. Wyrażenie to jest wcieleniem znaczenia w konkretne materialne doświadczenie. Koncepcja ta mówi, że: – gest, aktualny ruch gestu jest wymiarem znaczenia oraz – gest w Growth Point niesie żywe znaczenie, które mieszka się w słowie.

Powyższe rozważania związane są z ideą „material carrier”. Material carrier – fraza zastosowana przez Vygotsky (1986) jest koncepcją, która mówi, że gest jest wymiarem myślenia. Jest początkiem modelu abstrakcyjnego, który wskazuje jaką wielką moc reprezentacji ma materializacja. Wykonując gest, jego główną ideą jest przeniesienie znaczenia w konkretny stan zaistnienia oraz stania się częścią istnienia samego mówcy właśnie w tym momencie. Growth Point uważany jest za początkową formę jednostki „myślenia-dla-mówienia” (thinking for speaking). z której wyłania się dynamiczny proces organizacji myśli. Growth Point związany jest z generowaniem w czasie rzeczywistym elementów wyrażania się. Najważniejszym powodem dla którego Growth Point właśnie tak się nazywa jest to, iż odnosi się on do koncepcji, w której występuje określony punkt startu dla wyrażania myśli.

Gestus est motus et figuratio

Najbardziej złożona definicja gestu pochodzi z wieku XII. Jej autorem jest Hugon od św. Wiktora, opat opactwa Saint-Victor. Zostawił po sobie bogaty dorobek literacki. „De institutione novitiorum” to podręcznik pokazujący nowicjuszom drogi wiecznej szczęśliwości. Jej osiągnięcie wymaga wielu warunków. Jednym z nich jest poddanie się dyscyplinie. Temu tematowi jest poświęcone jedenaście rozdziałów do X do XXI. W rozdziale X spotykamy się z definicją dyscypliny: „Dyscyplina to uporządkowane ruchy wszystkich członków ciała, dyspozycją właściwą w każdej postawie i w każdym działaniu”. Autor następnie stwierdza, że dyscyplina jest użyteczna i że użyteczność wynika z dialektyki tego co wewnętrzne i tego co zewnętrzne. Zewnętrzne ruchy ciała są wyrazem ruchów duszy i odwrotnie. Sprzeczne działania tego co widzialne i tego co niewidzialne są regulowane dyscypliną.

Rozdział XII rozpoczyna definicja gestu:

Gestus est motus et figuratio membrorum corporis, ad omnem agendi et habendi modum”

„Gest jest ruchem i konfiguracją (formą) członków ciała,
przystosowanymi do każdego działania i każdej postawy”.

Słowo „figuratio” można tłumaczyć jako „konfiguracja”, „forma” „sposób” i posiada w sobie znacznie nadawania kształtu. To oznacza, że gest konfiguruje zespół członków ciała i uzewnętrznia to co jest ukryte w figuratio – formie czyli ruchy duszy. Figuratio mówi również o tym, że każdy gest jest dostrzegany prze drugiego człowieka i ten fakt nadaje mu sens. Gest jest wskazówką i znakiem. Wiktor wspomina jeszcze kilka idei łączących się z definicją gestu. Mówi o idei stosowności (lub niestosowności) gestu jako znaku do tego co oznacza. O idei celowości – gest zmierza do spowodowania pewnej postawy i idea miary – podstawowe pojęcie moralne – umiar gestu może być rozumiany jako ograniczenie. I w końcu idea modalności gestu – jest on elementem zmieniającym i określającym ruch. Bardzo dokładna klasyfikacja gestów i ich wzajemnych relacji i oddziaływań zajmuje pozostałą część dzieła.

Łacińskie określenie „Flatus vocis” – wprowadzone przez średniowiecznych nominalistów – oznacza słowo, a dokładnie „wyrażenie słowne”. Samo „flatus” to „wianie wiatru, oddech, przenośnie-nadymanie się, pycha”. „Vocis” – to „głos, ton, dźwięk”. W języku angielskim „wyrażać się” jest określone jako „make yourself understood”. Co można przetłumaczyć – czynić siebie zrozumiałym. Wyrażać się to być zrozumiałym. Dla innych oczywiście. W tym kontekście – wyrażenie słowne – to czynienie słowa zrozumiałym. Wyrażenie znakowe to czynienie znaku zrozumiałym. Dotyczy to również znaku przedstawionego obrazowo. Tchnienie, o którym mówi flatus wypływa z wnętrza człowieka, a ściślej z miejsca spotkania człowieka z poznawaną rzeczą. Tylko w ten sposób jest możliwe czynienie – siebie, słowa, obrazu, gestu – zrozumiałym.
Flatus vocis – wyrażenie słowne – słowo.
Flatus – wianie wiatru, miech do rozniecania ognia, oddech, oddychanie, nadymanie się, pycha (przenośnie).
Vocis – głos, ton, dźwięk
Flatus vocis – niesienie głosu – wyrażenie słowne.
Wyrażenie słowne – wyrażać się – make yourself understood – czynić siebie zrozumiałym
Flatus vocis – czynić siebie zrozumiałym głosem.
Flatus pictus – wyrażenie obrazowe – pictus – obraz, rysunek, ornament

Flatus pictus – czynić siebie zrozumiałym obrazem.
Flatus gestus – wyrażenie gestowe – gestus – gest
Flatus gestus – czynić siebie zrozumiałym gestem.

Literatura

1. Wexelblat A. An Approach to Natural Gesture in Virtual Environments. MIT Media Laboratory Sept. 1995
2. Eisenstein J, Davis R. Visual and Linguistic Information in Gesture Classification. Computer Science and Artificial Intelligence Laboratory, MIT Cambridge USA
3. Rittschera J., Blakeb A., Robertsc S.J.. Towards the automatic analysis of complex human body motions. Image and Vision Computing 20 (2002) 905–916
4. Kipp M., Neff M., Kipp K.H., and Albrecht I.. Towards Natural Gesture Synthesis: Evaluating gesture units in a data-driven approach to gesture synthesis. Saarland University, Experimental Neuropsychology Unit, Germany.
5. Jarmołowicz E. Niewerbalne elementy aktów mowy. Institute of Linguistics, Adam Mickiewicz University Poznań, Investigationes Linguisticae, vol. XII, Poznan, December 2005
6. Ampel-Rudolf M.. Konwecjonalne gesty I mimika we współczesnej literaturze. Bulletin de la Société Polonaise de Linguistique, fasc. lv, 1999
7. Kessler, Hodges, Walker. Evaluation of the CyberGlove™ as a Whole Hand Input Device.
8. Eisenstein J; Davis R.. Natural Gesture in Descriptive Monologues. MIT Cambridge 2003
9. Eslambolchilar P., R. Murray-Smith. Model-Based, Multimodal Interaction In Document Browsing.
10. Aggarwal J.K.. Problems, ongoing research and future directions in motion research. Machine Vision and Applications (2003) 14: 199–201
11. Francuz P.. Obrazy w umyśle. Wydawnictwo Naukowe Scholar Warszawa 2007
12. Eco Umberto. Nieobecna struktura. Wydawnictwo KR Warszawa 1996
13. Shaughnessy J., Zechmeister E., Zechmeister J.. Metody badawcze w psychologii. Gdańskie Wydawnictwo Psychologiczne Gdańsk 2002
14. Polański Z.. Współczesne metody badań doświadczalnych. Wiedza Powszechna Warszawa 1978
15. Hall E. T.. Ukryty wymiar. PIW Warszawa 1976
16. Whorf B. L.. Język, myśl i rzeczywistość. PIW Warszawa 1982
17. Wittgestein L.. Tractatus logico-philosophicus. PWN Warszawa 2004
18. Ruesch J., Kess W.. Nonverbal Communication. Notes on the Perception of Human Relations. Berkley 1956
19. McNeill D.. Hand and Mind. The University of Chicago Press 1992.
20. Austin J. L.. Mówienie i poznawanie. PWN Warszawa 1993
21. McNeill D.., Gesture and Thought, University of Chicago, The Summer Institute on Verbal and Non-verbal Communication and the Biometrical Principle, Sept. 2-12, 2006, Vietri sul Mare (Italy), organized by Anna Esposito.
22. McNeill. D., Imagery for speaking, University of Chicago
23. Acta Linguistica Hafniensia green – 6/28/02 Gesture And Language Dialectic, David McNeill, University of Chicago
24. Vygotsky, L. S. (1987). Thought and language. (Edited and translated by E.Hanfmann & G. Vakar; revised and edited by A. Kozulin). Za Cambridge:MIT Press. za David McNeill, Imagery for speaking, University of Chicago
25. Schmitt J-C, Gest w średniowiecznej Europie. Oficyna Naukowa 2008

Advertisements

One thought on “14. Gesty. Akwizycja czy znacznie

  1. Pingback: Gest akwizycja ruchu czy znaczenie – wystapienie na Seminarium “Interfejs Użytkownika – Kansei w praktyce” | Zakład Badań Wizualnych i Interakcji

Możliwość komentowania jest wyłączona.