A new ‘AI scientist’ can write science papers without any human input. Here’s why that’s a problem

Sat, 14 Sep 2024 11:17:49 +1000

Andrew Pam <xanni [at] glasswings.com.au>

Andrew Pam
<https://theconversation.com/a-new-ai-scientist-can-write-science-papers-without-any-human-input-heres-why-thats-a-problem-237029>

"Scientific discovery is one of the most sophisticated human activities. First,
scientists must understand the existing knowledge and identify a significant
gap. Next, they must formulate a research question and design and conduct an
experiment in pursuit of an answer. Then, they must analyse and interpret the
results of the experiment, which may raise yet another research question.

Can a process this complex be automated? Last week, Sakana AI Labs announced
the creation of an “AI scientist” – an artificial intelligence system they
claim can make scientific discoveries in the area of machine learning in a
fully automated way.

Using generative large language models (LLMs) like those behind ChatGPT and
other AI chatbots, the system can brainstorm, select a promising idea, code new
algorithms, plot results, and write a paper summarising the experiment and its
findings, complete with references. Sakana claims the AI tool can undertake the
complete lifecycle of a scientific experiment at a cost of just US$15 per paper
– less than the cost of a scientist’s lunch.

These are some big claims. Do they stack up? And even if they do, would an army
of AI scientists churning out research papers with inhuman speed really be good
news for science?"

Cheers,
       *** Xanni ***
--
mailto:xanni@xanadu.net               Andrew Pam
http://xanadu.com.au/                 Chief Scientist, Xanadu
https://glasswings.com.au/            Partner, Glass Wings
https://sericyb.com.au/               Manager, Serious Cybernetics

Comment via email

Home E-Mail Sponsors Index Search About Us