|
|
 | | From: | Mikko Heiska | | Subject: | Re_:_Vaatimukset_ja_säännönmukaisuudet | | Date: | 10 Jan 2005 02:56:52 -0800 |
|
|
 | >> Maailmasta (saadusta datasta) opitaan säännönmukaisuuksia (jotain
>> vajaatakin tietoa siitä miten data ja maailma poikkeaa
satunnaisesta
>> ja täydestä kaaoksesta) ja ohjelman vaatimuksena on tehdä jotain
>> tietyllä tavalla säännöllistä edes suhteessa syötteeseen. Samalla
>> formaatilla/formalismilla voi kuvata ohjelman vaatimuksen ja
datasta
>> opitun säännönmukaisuuden. Ohjelmaa tehdessä älyn mekanismit voivat
>> ilmentää luovuuttaan, keksimällä mahdollisimman nopean algoritmin,
>> joka tekee mitä vaatimuksessa on. Yhtä vaatimusta kohden voi olla
ties
>> kuinka monta eri algoritmia.
>Tämä kuulostaa hieman siltä, mitä esimerkiksi ns. koneoppimisessa
nykyään
>tyypillisesti tehdään. Ja siis "koneoppiminen" on hieno termi yhden
lajin
>tilastolliselle estimoinnille, eikä se sinänsä liity minkäänlaiseen
>"älyyn" mitenkään.
Yllättävää, että kuulostaa. Itse tarkoitin fyysisestä vajaata versiota
keksimisestä ja ajattelusta. Siis esimerkiksi q-sort
lajittelualgoritmin keksimistä ajattelun tuloksena - outputtina, kun
syötteenä on enemmän tai vähemmän matemaattisessa muodossa oleva
vaatimus taulukon järjestyksestä. Tähän kyseiseen laskentaprosessiin
tai "ajoon" voi kuulua myös mm. kuplalajittelun keksiminen ja sen
huomaaminen hitaammaksi kuin q-sort.
>Tuo "sama formaatti/formalismi" on tyypillisesti tässä sovelluksessa
>todennäköisyysjakaumat, joilla kuvataan todelliset stokastiset
ilmiöt,
>halutut ulostulot, epävarmuudet mallissa sekä epävarmuudet
ennusteissa. Se
>"älyn mekanismi" on vaan joku sopiva menetelmä, jolla niitä
mallintavien
>jakaumien parametreja optimoidaan/estimoidaan/samplataan.
En välttämättä nimittäisi sitä älyn mekanismiksi. Ettet vaan sorru ns.
olkinukkien rakenteluun, jos yrität osoittaa ettei joku ole oikeaa
älyä...
Uskotteko sfnetin tietojenkäsittelyteoreetikot ym., että tekniseen
sivilisaatioon pystyvillä älyllisillä olennoilla(josta luokasta
ihminen on erikoistapaus) on välttämättä joku biologinen versio
tuosta?
>Koneoppimisessa toimitaan tyypillisesti näin:
>1. Valitaan mittausdatasta sopivat piirteet, esimerkiksi joidenkin
> filttereiden ulostulot, tiettyjen taajuuskomponenttien määrät,
> tai vastaavat. Tässä voidaan käyttää myös jotain PCA:ta,
> ICA:aa tai SOM:ia piirteiden valinnassa.
>
>2. Määritellään mitä ja miten mittausdatan perusteella halutaan
> päätellä eli halutaanko luokitella jotain, ennustaa jonkin ulostulon
> arvoa muiden ulostulojen arvoista vai jotain muuta.
>
>3. Valitaan jokin semiparametrinen malli, esimerkisi jokin
> niin sanottu neuroverkkomalli (MLP, GMM, ...), ihan tavallinen
> lineaariregressiomalli tai joku muu.
>
>4. Estimoidaan mallin parametrit jollakin sopivalla numeerisella
> menetelmällä. Käytännössä tarvitaan optimointia, numeerista
> integrointia, MC-samplausta tai vaikkapa evoluutiopohjaista
> (geneettistä) optimointia riippuen mitä mallia käytetään ja miten.
>
>Kohdassa 1 tyypillisesti matkitaan esimerkiksi ihmisen silmän tai
korvan
>toimintaa, jotta saadaan keksittyä hyvät piirteet. Mutta joka
tapauksessa
>näiden piirteiden valinta on aika pitkälle sellaista hihasta
vetämistä.
>Kohdassa 2 tehdään matemaattinen malli ilmiölle eli kirjoitetaan
>uskomukset ilmiöstä funktionaaliksi ja stokastisiksi riippuvuuksiksi,
ja
>tämä kohta on siis se missä koko homman varsinainen "älykkyys" on.
>Kohdassa 3 voidaan lisätä malliin regressiofunktiot tuntemattomien
>funktioiden paikalle. Kohta 4 taas on periaatteessa vain
olemassaolevien
>estimointialgoritmien soveltamista.
>> Jos 2 mustavalkoisessa kuvassa olevat nurmikot näyttää erilaiselta,
>> silloin niistä on (päässä/muistissa) eri
>> "vaatimusten"/säännönmukaisuuksien ominaisuusjoukot. Jos kyseisistä
>> joukoista kehittäisi ohjelmat normaalien ajattelumekanismien
>> pyörityksellä, niin niiden ohjelmien tuotoksista ei välttämättä
tulisi
>> mitään nurmikon näköistä, mutta kuitenkin 2 eri näköistä kuvaa,
jotka
>> ovat alkuperäisiä kuvia selvemmin eri näköisiä, mutta
tylsemmännäköisiä
>> kuvia. Myös jostain nätistä fraktaalista muodostuisi tällä tavalla
kovin
>> tylsä kuva, koska evoluutio ei ole "tarkoittanut" älyä mihinkään
>> fraktaalien pakkaamiseen.
Edellisestä kohdasta tulin myöhemmin vähän katumapäälle. Siis se
nurmikko tai fraktaali tunnistettaisiin niistä muistissa olevista
vaatimus-ominaisuusjoukoista, joiden perusteella uudet kuvat tehtiin
ja jotka ne uudet kuvat täyttää ja toteuttaa. Jos ne vaatimukset/
ominaisuusjoukot jotka kuvaavat säännönmukaisuuksia ovat täsmälleen
samoja alussa ja lopussa ( _käytännössä_ tietoa saattaa unohtua ja
vääristyä, mutta tämä onkin teoriaa), silloin se yksi ihminen ei
huomaisi eroa kuvissa, vaikka iso osa pikseleistä voisikin olla eri
arvoilla.
Ne johdetut nurmikkokuvat olisivat luonnottoman näköisiä jos tietoa
ominaisuuksista poistettaisiin satunnaisesti. Se vastaisi
tyylittelytyylin valintaa. Silti saattaisi olla mahdollista liittää
suurella luottamuksella kumpikin johdettu kuva alkuperäiseensä.
>> Tavallista fyysisen säännönmukaisuuksien huomaamiseen käytettyä
>> oppimista käytetään myös abstraktissa matematiikan tekemisessä.
Joskus
>> jostain matematiikasta "tulee esiin" /ilmaantuu joku esim.
lukujono,
>> josta voi yrittää nähdä jonkun säännönmukaisuuden ja edetä siitä.
>> Lukujonoista on kokonainen nettisivusto jossain, ilmeisesti juuri
>> sellaista etenemistapaa auttamaan. (linkkiä, kiitos?)
>Tarkoitatko lukujonoilla aikasarja-analyysiä ja/tai
signaalinkäsittelyä
>vai?
ei kun esim. 2,4,6,8...
>Eiköhän nämä aikasarja-analyysin ja koneoppimisen menetelmät ole
>ihan periaatteeltaan samoja. En kyllä muuten usko, että abstraktissa
>matematiikassa kovin empiirisiä menetelmiä käytetään, vaan ne ovat
ihan
>sovelletun matematiikan heiniä.
Etsin itse ja löysin tämän sivun mitä tarkoitin:
http://www.research.att.com/~njas/sequences/Seis.html
Saatan joskus myöhemmin vastata viestiisi vielä perusteellisemmin,
replynä tai muuten.
|
|
| | From: | Simo | | Subject: | Re: Re_:_Vaatimukset_ja_säännönmukaisuudet | | Date: | Tue, 18 Jan 2005 12:46:30 +0200 |
|
|
|
> >Tämä kuulostaa hieman siltä, mitä esimerkiksi ns. koneoppimisessa
> nykyään
> >tyypillisesti tehdään. Ja siis "koneoppiminen" on hieno termi yhden
> lajin
> >tilastolliselle estimoinnille, eikä se sinänsä liity minkäänlaiseen
> >"älyyn" mitenkään.
>
> Yllättävää, että kuulostaa. Itse tarkoitin fyysisestä vajaata versiota
> keksimisestä ja ajattelusta. Siis esimerkiksi q-sort
> lajittelualgoritmin keksimistä ajattelun tuloksena - outputtina, kun
> syötteenä on enemmän tai vähemmän matemaattisessa muodossa oleva
> vaatimus taulukon järjestyksestä. Tähän kyseiseen laskentaprosessiin
> tai "ajoon" voi kuulua myös mm. kuplalajittelun keksiminen ja sen
> huomaaminen hitaammaksi kuin q-sort.
Nyt kuulostaa hieman logiikkaohjelmoinnilta, onko prolog tuttu? Joskin
prolog ei kyllä optimoi varsinaisesti algoritmia, vaan siinä kuvataan
ongelma predikaattilogiikalla ja prolog ratkaisee sen yleistetyllä
algoritmilla. Kaikki samat asiat toki voi tehdä millä tahansa muullakin
ohjelmointikielellä.
Ilmeisesti siis puhut ajattelutavasta, että mikä tahansa algoritmi P
voidaan ajatella funktiona
y = f(x,P)
jossa x on syöte, y on vaste ja P on se ohjelma. Sitten P valitaan
optimoimalla jokin ulkoinen kriteeri (eli sakkofunktio), joka voi riippua
esimerkiksi algoritmin nopeudesta kohdekoneella. Kyllähän tämän voi tehdä,
jos haluttu lopputulos on tarpeeksi tarkkaan tiedossa, mutta en kyllä näe
yhteyttä inhimilliseen keksimiseen ja ajatteluun. Vai ajatteletko, että
ihminenkin toimisi jotenkin näin? Tuskin.
On muuten hyvin rajoittavaa puhua algoritmeista kuten q-sort, koska nehän
rajoittavat funktiot f() vain sellaisiksi joita voidaan laskea
sekventiaalisella (Turing) tietokoneella äärellisellä askelmäärällä. Tähän
viitekehykseen eivät mahdu edes perus osittaisdifferentiaaliyhtälöinä
esitettävät fysikaaliset mallit. Ilman approksimointia (stokastiikkaa) ei
selvitä, jos tälle tielle lähdetään.
> >Tuo "sama formaatti/formalismi" on tyypillisesti tässä sovelluksessa
> >todennäköisyysjakaumat, joilla kuvataan todelliset stokastiset
> ilmiöt,
> >halutut ulostulot, epävarmuudet mallissa sekä epävarmuudet
> ennusteissa. Se
> >"älyn mekanismi" on vaan joku sopiva menetelmä, jolla niitä
> mallintavien
> >jakaumien parametreja optimoidaan/estimoidaan/samplataan.
>
> En välttämättä nimittäisi sitä älyn mekanismiksi. Ettet vaan sorru ns.
> olkinukkien rakenteluun, jos yrität osoittaa ettei joku ole oikeaa
> älyä...
Pointtini oli se, että kuvasin systeemin, jolla ei oikeasti ole mitään
tekemistä älyn mekanismien kanssa ja millä on ne ominaisuudet kuin
systeemillä jonka kuvasit.
> Uskotteko sfnetin tietojenkäsittelyteoreetikot ym., että tekniseen
> sivilisaatioon pystyvillä älyllisillä olennoilla(josta luokasta
> ihminen on erikoistapaus) on välttämättä joku biologinen versio
> tuosta?
Tietojenkäsittelyteoreetikko en ole, mutta voin vastata omasta puolestani.
Ei, en usko, että älyllisillä olennoilla olisi biologista versiota tuosta.
Sehän on ihan järjetöntä, tuohan on vain yhden matemaattisen formuloinnin
rajoituksien puitteissa luotu laskentajärjestelmä, miksi pitäisi olettaa
että biologiset systeemit toimisivat näin? Toki jossain määrin
tuollaisella pystytään imitoimaan biologisten systeemien syöte-vaste
relaatioita. Mutta tämä ei implikoi sitä, että biologiset systeemit
oikeasti toimisivat niin.
--
- Simo
|
|
|
