Machine learning generates 3D model from 2D pictures

ENG: Researchers from the McKelvey School of Engineering at Washington University in St. Louis have developed a machine learning algorithm that can create a continuous 3D model of cells from a partial set of 2D images that were taken using the same standard microscopy tools found in many labs today. The key to this work was the use of a neural field network, a particular kind of machine learning system that learns a mapping from spatial coordinates to the corresponding physical quantities. When the training is complete, researchers can point to any coordinate and the model can provide the image value at that location.

A particular strength of neural field networks is that they do not need to be trained on copious amounts of similar data. Instead, as long as there is a sufficient number of 2D images of the sample, the network can represent it in its entirety, inside and out. The image used to train the network is just like any other microscopy image. In essence, a cell is lit from below; the light travels through it and is captured on the other side, creating an image. This is done by feeding the model information about a point in the sample where the image captured some of the internal structure of the cell.

Then the network takes its best shot at recreating that structure. If the output is wrong, the network is tweaked. If it’s correct, that pathway is reinforced. Once the predictions match real-world measurements, the network is ready to fill in parts of the cell that were not captured by the original 2D images.

RO: Cercetătorii de la Școala de Inginerie McKelvey de la Universitatea Washington din St. Louis au dezvoltat un algoritm de învățare automată care poate crea un model 3D continuu al celulelor dintr-un set parțial de imagini 2D care au fost realizate cu ajutorul acelorași instrumente standard de microscopie care se găsesc în prezent în multe laboratoare. Cheia acestei lucrări a fost utilizarea unei rețele de câmpuri neuronale, un tip special de sistem care învață o corespondență de la coordonatele spațiale la cantitățile fizice corespunzătoare. Când antrenamentul este complet, cercetătorii pot indica orice coordonată, iar modelul poate furniza valoarea imaginii în acea locație.

Un punct forte al rețelelor de câmp neuronal este faptul că nu este nevoie să fie antrenate pe cantități mari de date similare. În schimb, atâta timp cât există un număr suficient de imagini 2D ale eșantionului, rețeaua îl poate reprezenta în întregime, în interior și în exterior. Imaginea utilizată pentru a antrena rețeaua este la fel ca orice altă imagine microscopică. În esență, o celulă este luminată de jos; lumina trece prin ea și este captată pe partea cealaltă, creând o imagine. Acest lucru se face prin alimentarea modelului cu informații despre un punct din eșantion în care imaginea a capturat o parte din structura internă a celulei.

Apoi, rețeaua încearcă să recreeze cât mai bine acea structură. În cazul în care rezultatul este greșit, rețeaua este ajustată. Dacă este corect, acea cale este consolidată. Odată ce predicțiile corespund măsurătorilor din lumea reală, rețeaua este pregătită să completeze părțile celulei care nu au fost surprinse de imaginile 2D originale.

Source (The Source, Washington University in St. Louis, “Machine learning generates 3D model from 2D pictures”, 19.09.2022)

Paper: Liu, R., Sun, Y., Zhu, J., Tian, L. and Kamilov, U.S., 2022. Recovery of continuous 3D refractive index maps from discrete intensity-only measurements using neural fields. Nature Machine Intelligence, pp.1-11.

Robobug: a rechargeable, remote-controllable cyborg cockroach

ENG: Researchers have been trying to design cyborg insects—part insect, part machine—to help inspect hazardous areas or monitor the environment. However, for the use of cyborg insects to be practical, handlers must be able to control them remotely for long periods of time. This requires wireless control of their leg segments, powered by a tiny rechargeable battery. Keeping the battery adequately charged is fundamental—nobody wants a suddenly out-of-control team of cyborg cockroaches roaming around. While it’s possible to build docking stations for recharging the battery, the need to return and recharge could disrupt time-sensitive missions. Therefore, the best solution is to include an on-board solar cell that can continuously ensure that the battery stays charged.

Credit: RIKEN

All of this is easier said than done. To successfully integrate these devices into a cockroach that has limited surface area required the research team to develop a special backpack, ultrathin organic solar cell modules, and an adhesion system that keeps the machinery attached for long periods of time while also allowing natural movements. Led by Kenjiro Fukuda, RIKEN CPR, the team experimented with Madagascar cockroaches, which are approximately 6 cm long. They attached the wireless leg-control module and lithium polymer battery to the top of the insect on the thorax using a specially designed backpack, which was modeled after the body of a model cockroach. The backpack was 3D printed with an elastic polymer and conformed perfectly to the curved surface of the cockroach, allowing the rigid electronic device to be stably mounted on the thorax for more than a month.

The ultrathin 0.004 mm thick organic solar cell module was mounted on the dorsal side of the abdomen. The ultrathin and flexible organic solar cell, and how it was attached to the insect, proved necessary to ensure freedom of movement. After carefully examining natural cockroach movements, the researchers realized that the abdomen changes shape and portions of the exoskeleton overlap. To accommodate this, they interleaved adhesive and non-adhesive sections onto the films, which allowed them to bend but also stay attached.

RO: Cercetătorii au încercat să proiecteze insecte cyborg – parțial insecte, parțial mașini – pentru a le folosi la inspectarea zonelor periculoase sau la monitorizarea mediului înconjurător. Cu toate acestea, pentru ca utilizarea insectelor cyborg să fie practică, cei care le manipulează trebuie să le poată controla de la distanță pentru perioade lungi de timp. Acest lucru necesită controlul fără fir al segmentelor picioarelor, alimentate de o baterie reîncărcabilă minusculă. Menținerea bateriei încărcate în mod adecvat este fundamentală – nimeni nu dorește ca o echipă de gândaci cyborg scăpată brusc de sub control să umble prin preajmă. Deși este posibil să se construiască stații de andocare pentru reîncărcarea bateriei, necesitatea de a reveni și de a reîncărca ar putea întrerupe misiunile sensibile la timp. Prin urmare, cea mai bună soluție este să se includă o celulă solară la bord care să asigure în permanență încărcarea bateriei.

Toate acestea sunt mai ușor de spus decât de făcut. Pentru a reuși să integreze cu succes aceste dispozitive într-un gândac care are o suprafață limitată, echipa de cercetare a trebuit să dezvolte un rucsac special, module de celule solare organice ultra-subțiri și un sistem de aderență care să mențină mașinăria atașată pentru perioade lungi de timp, permițând în același timp mișcări naturale. Condusă de Kenjiro Fukuda, RIKEN CPR, echipa a experimentat cu gândaci de Madagascar, care au o lungime de aproximativ 6 cm. Aceștia au atașat modulul wireless de control al picioarelor și bateria cu polimeri de litiu de partea superioară a insectei, pe torace, folosind un rucsac special conceput, care a fost modelat după corpul unui model de insectă. Rucsacul a fost imprimat 3D cu un polimer elastic și s-a adaptat perfect la suprafața curbată a gândacului, permițând dispozitivului electronic rigid să fie montat stabil pe torace timp de mai bine de o lună.

Modulul ultra-subțire de celule solare organice cu o grosime de 0,004 mm a fost montat pe partea dorsală a abdomenului. Celula solară organică ultra-subțire și flexibilă, precum și modul în care a fost atașată insectei, s-au dovedit a fi necesare pentru a asigura libertatea de mișcare. După ce au examinat cu atenție mișcările naturale ale gândacilor, cercetătorii și-au dat seama că abdomenul își schimbă forma și porțiuni ale exoscheletului se suprapun. Pentru a se adapta la acest lucru, ei au intercalat secțiuni adezive și neadezive pe pelicule, ceea ce le-a permis să se îndoaie, dar și să rămână atașate.

Source (RIKEN, “Robobug: a rechargeable, remote-controllable cyborg cockroach”, 06.09.2022)

Paper: Kakei, Y., Katayama, S., Lee, S., Takakuwa, M., Furusawa, K., Umezu, S., Sato, H., Fukuda, K. and Someya, T., 2022. Integration of body-mounted ultrasoft organic solar cell on cyborg insects with intact mobility. npj Flexible Electronics6(1), pp.1-9.

New AI system predicts how to prevent wildfires

ENG: Wildfires are a growing threat in a world shaped by climate change. Now, researchers at Aalto University have developed a neural network model that can accurately predict the occurrence of fires in peatlands. The study focused on the Central Kalimantan province of Borneo in Indonesia, which has the highest density of peatland fires in Southeast Asia. Drainage to support agriculture or residential expansion has made peatlands increasingly vulnerable to recurring fires.

Credit: Jeff Schmaltz, MODIS Rapid Response Team / NASA

The new model uses measurements taken before each fire season in 2002-2019 to predict the distribution of peatland fires. The researchers used a convolutional neural network to analyse 31 variables, such as the type of land cover and pre-fire indices of vegetation and drought. Once trained, the network predicted the likelihood of a peatland fire at each spot on the map, producing an expected distribution of fires for the year.

While the model was usually right in predicting a fire, it also missed many fires that actually occurred. About half of the observed fires weren’t predicted by the model, meaning that it isn’t suitable as an early-warning predictive system. Larger groupings of fires tended to be predicted well, while isolated fires were often missed by the network. With further work, the researchers hope to improve the network’s performance so it can also serve as an early-warning system.

The team took advantage of the fact that fire predictions were usually correct to test the effect of different land management strategies. By simulating different interventions, they found that the most effective plausible strategy would be to convert shrubland and scrubland into swamp forests, which would reduce fire incidence by 50%. If this were combined with blocking all of the drainage canals except the major ones, fires would decrease by 70% in total.

RO: Incendiile de vegetație reprezintă o amenințare din ce în ce mai mare într-o lume marcată de schimbări climatice. Cercetătorii de la Universitatea Aalto au dezvoltat un model de rețea neuronală care poate prezice cu precizie apariția incendiilor în turbării. Studiul s-a concentrat asupra provinciei Kalimantan Central din Borneo, Indonezia, care are cea mai mare densitate de incendii de turbă din Asia de Sud-Est. Drenajul în sprijinul agriculturii sau al expansiunii rezidențiale a făcut ca mlaștinile să devină din ce în ce mai vulnerabile la incendiile recurente.

Noul model neuronal utilizează măsurători efectuate înainte de fiecare sezon de incendii în perioada 2002-2019 pentru a prezice distribuția incendiilor de turbărie. Cercetătorii au folosit o rețea neuronală convoluțională pentru a analiza 31 de variabile, cum ar fi tipul de acoperire a terenului și indicii de vegetație și de secetă dinaintea incendiilor. După ce a fost antrenată, rețeaua a prezis probabilitatea unui incendiu de turbărie în fiecare punct de pe hartă, producând o distribuție preconizată a incendiilor pentru anul respectiv.

Deși modelul a avut o acuratețe mare în prezicerea unui incendiu, a omis multe incendii care au avut loc în realitate. Aproximativ jumătate din incendiile observate nu au fost prezise de model, ceea ce înseamnă că acesta nu este potrivit ca sistem de predicție pentru avertizare timpurie. Grupurile mai mari de incendii au avut tendința de a fi prezise bine, în timp ce incendiile izolate au fost adesea ratate de rețea. Cercetătorii speră să îmbunătățească performanțele rețelei, astfel încât aceasta să poată servi și ca sistem de avertizare.

Echipa a profitat de faptul că previziunile privind incendiile erau de obicei corecte pentru a testa efectul diferitelor strategii de gestionare a terenurilor. Simulând diferite intervenții, au descoperit că cea mai eficientă strategie plauzibilă ar fi transformarea tufărișurilor și a mlaștinilor în păduri mlăștinoase, ceea ce ar reduce incidența incendiilor cu 50%. Dacă acest lucru ar fi combinat cu blocarea tuturor canalelor de drenaj, cu excepția celor majore, incendiile ar scădea în total cu 70%.

Source (Aalto University, “New AI system predicts how to prevent wildfires”, 09.09.2022)

Paper: Horton, A.J., Lehtinen, J. & Kummu, M. Targeted land management strategies could halve peatland fire occurrences in Central Kalimantan, Indonesia. Commun Earth Environ 3, 204 (2022). https://doi.org/10.1038/s43247-022-00534-2