[morte-vivante]

Oorspronkelijk geplaatst door Voltian

Ik heb recent nog meegewerkt aan een projectvoorstel waarbij we ML inzetten om op een (meer) geautomatiseerd sensorgegevens van luchtkwaliteitmetingen te verwerken tot zinvolle informatie en betere voorspellingen. In feite dus het "automatiseren" van data-analyse, data cleaning, clustering, zoeken naar correlaties, etc.

Dat was mijn eerste echt rechtstreeks contact met ML en ML-academici. WTF man, Massively impressive! Vooral die convolutional neural networks. Damn man, had ik dat maar gestudeerd.

Als dit werkt dan...
1. gaat de kwaliteit van de voorspelling er gigantisch op vooruit (betere modellen),
2. gaat de kost voor dataverwerking omlaag (minder high-skilled arbeid nodig voor in depth data-analyse) en
3. daalt de kost voor sensing (ML kan aan de slag met data van lagere kwaliteit, als er maar genoeg data is).


Alleen al in deze specifieke toepassing dus een gigantische impact. Deep learning is wat mij betreft een revolutie van dezelfde orde als het internet.

met dat nadeel dat niemand eigenlijk de processen achter deep learning begrijpt. Ja, de algoritmen zijn gecreerd door mensen, maar niemand die begrijpt wat de stappen zijn (de reden zo je wil) dat AI tot een bepaalde conclusie/besluit komt. We zijn dus niet in staat om te begrijpen wat AI nu exact doet, en hoe het tot een bepaalde conclusie komt.

https://www.technologyreview.com/s/6...e-heart-of-ai/

No one really knows how the most advanced algorithms do what they do. That could be a problem.

The computers that run those services have programmed themselves, and they have done it in ways we cannot understand. Even the engineers who build these apps cannot fully explain their behavior.

We need more than a glimpse of AI’s thinking, however, and there is no easy solution. It is the interplay of calculations inside a deep neural network that is crucial to higher-level pattern recognition and complex decision-making, but those calculations are a quagmire of mathematical functions and variables. “If you had a very small neural network, you might be able to understand it,” Jaakkola says. “But once it becomes very large, and it has thousands of units per layer and maybe hundreds of layers, then it becomes quite un-understandable.”

Just as many aspects of human behavior are impossible to explain in detail, perhaps it won’t be possible for AI to explain everything it does. “Even if somebody can give you a reasonable-sounding explanation [for his or her actions], it probably is incomplete, and the same could very well be true for AI,” says Clune, of the University of Wyoming. “It might just be part of the nature of intelligence that only part of it is exposed to rational explanation. Some of it is just instinctual, or subconscious, or inscrutable.”

we zijn intelligentie aan het creëren, zonder te begrijpen hoe het doet wat het doet. Als dat geen alarmbellen doet afgaan...