Who controls whom? Is technology controlling us, or are we controlling it? Does it lead us where it wants to, even to our ruin, or can we force it to yield to our intentions? But what else would our intentions be, if not some further technology? Is the humanity–technology relationship always the same or historically variable? Where is this unknown force heading?
Who controls whom? Is technology controlling us, or are we controlling it? Does it lead us where it wants to, even to our ruin, or can we force it to yield to our intentions? But what else would our intentions be, if not some further technology? Is the humanity–technology relationship always the same or historically variable? Where is this unknown force heading?
Kto powoduje kim? Technologia nami czy też my nią? Czy to ona prowadzi nas, dokąd chce, choćby do zguby, czy też możemy zmusić ją do ugięcia się przed naszym dążeniem? Ale co, jeśli nie myśl technologiczna określa owo dążenie? Czy zawsze jest tak samo, czy też sam stosunek „ludzkość—technologia” jest zmienny historycznie? Jeśli tak, dokąd zmierza ta wielkość niewiadoma?
Kto powoduje kim? Technologia nami czy też my nią? Czy to ona prowadzi nas, dokąd chce, choćby do zguby, czy też możemy zmusić ją do ugięcia się przed naszym dążeniem? Ale co, jeśli nie myśl technologiczna określa owo dążenie? Czy zawsze jest tak samo, czy też sam stosunek „ludzkość—technologia” jest zmienny historycznie? Jeśli tak, dokąd zmierza ta wielkość niewiadoma?
In the early 1960s, Polish writer Stanisław Lem penned Summa Technologiae, a 600-page long book of futurology, whose overall purpose was "to present the general possibilities… as they determine the future in a specific way." Describing technology's broad tendencies, rather than guessing at which futuristic tools might yet exist, is not a straightforward task. Absent a sufficient theory of technological change, we often helplessly project our present intact into the future. "What [kind of technology]," Lem asks, "would a caveman expect [to find in the] future? Huge, magnificently hewn stones." In His Master's Voice, in many aspects a novelization of Summa Technologiae, one character complains that such linear imaginations of the future "disappoint in their homogeneity." If we wish to see any "progress" on this front, he continues, it must be "epistemic," and strip us of "truisms, common truths, and stereotypes," which too often are "sufficiently embellished and made palatable to immerse us in safe wonder while we remain overall unshaken in our personal life philosophy." Far from pursuing these safe wonders, if we truly aim to peek into the unveiling of a future world, we must think in a way that empties us of our confidences.
For such an unnerving task, Summa Technologiae is a worthy interlocutor. On the surface, the book is merely symptomatic of all the intellectual excitements of the 1960s, bringing together the natural sciences and the emerging field of cybernetics within an overarching framework of two evolutions—natural and technological—paralleling each other, overlapping and diverging. Though Lem described Summa as "a dreadful text full of showing off," as if sheepishly aware that he bit off more than he could chew, biophysicist Peter Butko considers it equal to acclaimed books that engaged with evolutionary theory and complexity, such as Richard Dawkins's The Selfish Gene (1976) or Douglas Hofstadter's Gödel, Escher, Bach (1979), noting that it was Summa that first comprehensively addressed some of the topics that made these subsequent books so influential and widely read. Below the surface—and this is more interesting—Summa Technologiae is also a peculiar morality tale, with an ambiguous stance on how we might orient ourselves toward the largely unpredictable force that is technological change. As a futurology, its guiding purpose is to discuss what the future might be, not necessarily what it should be. In fact, because of his unflinching examinations of technology as both serving and challenging human morality, Lem's works were often grist to the mill of technophobes. He was far from a socially engaged critic of technology, proclaiming that "I do not trust any promises, nor do I believe in assurances bolstered by so-called humanism. The only answer to technology is another technology." Yet, neither was he a techno-utopian or a naive technocrat divorced from the ethical and philosophical questions that technology poses to us. "Bioevolution," he writes, "is beyond all doubt an amoral process, which cannot be said of technological evolution."
What, then, would be an adequate futurology, one that encompasses both the machinery and the morality of technology? If I look to Summa Technologiae to ponder this question, it is not only because it is a neglected historical source, whose cross-reading of biological sciences and computation would resonate in today's intellectual climate, where the questions of evolution and artifice, life and machines, biotechnology, or ecology and digital infrastructure are again coming to the fore. It is rather because, with its help, we can interrogate a certain truism about technology, namely that we can control it and that its development tends toward predefined and perpetually improving forms. Human activity, to borrow Lem's phrasing, can indeed "open up a new chapter in [the history of] Technology." Indeed,
human bodies and minds are a uniquely fertile soil for accelerated technological take-off mechanisms, unmatched by any other species on this planet. Our ability to facilitate ongoing technological change cannot be contested. Yet, the question remains: are we the conductors of this process, or its instruments? If we do shape it, can we see where it is headed? What if humanity is but one chapter in the history of technology, a story that is neither linear nor one that fits into conventional moral frameworks? These questions go beyond whether certain technologies are good or bad, or what social effects they might have, because technology is not mere utility. As an existential process, it alters the civilizational and evolutionary trajectory of our species.
human bodies and minds are a uniquely fertile soil for accelerated technological take-off mechanisms, unmatched by any other species on this planet. Our ability to facilitate ongoing technological change cannot be contested. Yet, the question remains: are we the conductors of this process, or its instruments? If we do shape it, can we see where it is headed? What if humanity is but one chapter in the history of technology, a story that is neither linear nor one that fits into conventional moral frameworks? These questions go beyond whether certain technologies are good or bad, or what social effects they might have, because technology is not mere utility. As an existential process, it alters the civilizational and evolutionary trajectory of our species.
If we think about technology as an existential task, it cannot be assessed within any simple moralism. The concept of existential technologies that this essay proposes would operate across vast temporal scales and elude familiar ethical categories. Rather than moving us toward a better world in any straightforward sense, they would generate alienating or turbulent changes at the limits of our comprehension. With its sustained interest in evolutionary theory and long-term prognostication and its clear-eyed understanding of agency and control sharpened by the brutal twentieth-century history of Eastern Europe, Summa Technologiae becomes a compelling lens for thinking through this idea.
1
Two Evolutions and the Amorality of Deep Time
The history of our species is commonly charted through the tools we've developed. The agricultural revolution took off through ancient Anatolian farming techniques, Mesopotamian irrigation systems, and Egyptian plows. The Middle Ages saw warfare transformed by iron smelting in West Africa, while sciences were refashioned through algebra and astronomy in the Islamic world. Trade flourished thanks to the invention of the compass in China. Optical lenses, the printing press, and gunpowder defined the Renaissance across the world, and later, steam engines, cameras, and textile machines ushered in the Industrial Revolution. This familiar story clocks in at about now, with its electricity and energy infrastructures, automobiles, factories, and computers. Focusing on tendencies rather than on specific tools, Lem proposes multiple future trajectories, including space exploration and first contact with alien intelligence; intellectronics (intelektornika), the engineering of intelligence; the changing relationship between science and religion from the vantage point of computation; the possibility of structuring the evolving relationship between chaos and information; phantomatics (fantomatyka) and cosmogenic engineering, which are the creation of beings and worlds in virtual realities or simulations; various forms of modeling; cerebromatics (cerebromatyka), which is the technological manipulation of thoughts, beliefs, and character traits; teletaxy and phantoplication (teletaksja i fantomplikacja), which are practices of cloning and consciousness-splitting; various methods of automating scientific and metaphysical knowledge production; creating synthetic and cognizant language; biotechnology; cyborgization; and technologies that impact love, genetics, and sexual reproduction. These tendencies are explored in lesser or greater detail, and with various degrees of consistency, but entire essays could be written about each.
Yet, even though the task of futurology is to map out the future, Lem begins Summa Technologiae by listing the many challenges of this kind of prognostication. We have, for example, great difficulty determining how long a specific technological tendency will last, while momentous discoveries are often made by accident rather than intentionally. We also struggle with controlling the long-term consequences of our designs—each invention is double-edged and exceeds its own starting condition. Acknowledging these difficulties, Lem asks, "Isn't it at the very least inappropriate to discuss future roses while ourselves being lost in the flammable forests of the present?" Throughout the book, he wrestles with the realization that a scientifically grounded theory of technological development must be a theory of everything. Technology unveils itself within "nature" and the cosmos, alongside human history and civilization. As we begin to examine the borders between these terms, they blur, urging us to seek frameworks that can account for them as a unified whole. Technology indeed seems to us inseparable from its implementation in specific objects and tools, not unlike evolution, which can be thought of through its specific manifestations in individual organisms, species, and ecosystems. Yet, while we have comprehensive theories of evolution, in the case of technology, we cannot see the forest for the trees. While we can name countless examples (written texts, roads, aqueducts, computers, gene-editing tools, cameras), a comprehensive theory of technology as an ongoing process, one that explains why certain forms emerge and persist, is still in the making. We arguably lack a work like Darwin's On the Origin of Species, a theory that would account for how technology produces specific things in the world, and why some exist and others do not.
The relationship between technology and evolution is one of the most discussed subjects in scholarship on Summa Technologiae. To formulate a theory of existential technologies, let us highlight that Lem was drawn to the idea that evolution, poetically described by Richard Dawkins as "the blind watchmaker," is an impersonal designer, which makes its achievements all the more impressive. He describes a cell, for example, as "a blind designer, working by trial and error, [therefore] its initial farsightedness astonishes and overwhelms us all the more." Contrary to that of the cell, human farsightedness is too often strangled by thought, which cannot help but appeal to subjectivity. The closing paragraph of Summa Technologiae beautifully captures this difference between human confidences and evolution's unthinking designs:
From twenty amino acid letters, Nature has built a language "in its pure state," which spells out—in slight rearrangements of nucleotide syllables—phages, viruses, bacteria, tyrannosaurs, termites, hummingbirds, forests, and nations, given enough time. This language, so perfectly atheoretical, anticipates not only the conditions of ocean floors and mountain peaks but also the quantization of light, thermodynamics, electrochemistry, echolocation, hydrostatics—and God knows what else, of which we so far cannot know! It does so only "practically," because by creating everything, it understands nothing. Yet, its lack of understanding is far more efficient compared to all our wisdom. An unreliable steward of synthetic assertions about the properties of reality, it knows the world's statistical nature and acts accordingly, attaching no importance to individual assertions, but only to the entirety of its billion-year expression. Truly, it is worth mastering such a language, which creates philosophers, while ours can only create philosophies.
Yet, it is precisely this difference that makes humans morally accountable, while evolution "buries hecatombs of victims [in its] million-years long trials and errors," continuously testing what works and what does not, without an end point in mind. Where evolution might, without a second thought, annihilate whole populations or condemn individuals to torturous disabilities, humans cannot pretend that if we were to make similar decisions, such as killing off a species or sentencing other people to prolonged torture, they would not bear moral weight:
One cannot simultaneously make discoveries and avoid taking responsibility for their consequences. We are familiar with the effects of such behavior in nonbiological fields. They are pathetic. In vain may a scholar attempt to narrow their work so that it only involves gathering information, walled away from the questions of application. Evolution, as we have already shown explicitly and implicitly, operates ruthlessly. A person gradually learning about its constructive processes cannot pretend that they are merely accumulating theoretical knowledge. The one who understands the consequences of decisions, who gains the power to make them, will bear the burden of responsibility—a burden that Evolution, as an impersonal constructor, handled so easily, because for it, such responsibility did not exist.
This is why the question of technology, and its role in the drama of existence, becomes so prescient. Is it subservient to human moral action or to evolution's unthinking designs? William MacAskill's What We Owe the Future, one of the most popular and influential books on the subject of technology's long-term trajectories, advocates the former. His "long-termist" philosophy not only invites us to pace the length of millennia and picture the world 500 million years ahead, but also to personify it, bringing to mind everyone who might potentially be affected by our actions in the present. It describes current humans as "imprudent teenagers" who have not yet learned how to make correct, altruistic choices that would benefit our future selves and implores us to act well today for the benefit of the generations to come. In such a narrative, future events and ethics are imagined as legible and within our power to influence, and technological progress should by default make the world better. The assumption that we can already see which technologies have good or bad outcomes for civilization, and we simply need to decide which way we would like to go, underlies many authoritative imaginations today, from critiques of technology as inherently harmful to utopian imaginations of technical solutions to social ills.
Yet, alongside Summa Technologiae, we can articulate a different perspective, while not abandoning the task of long-term technological prognostication. To begin, though life-forms on this planet 500 million years from now may act in accordance with instrumental values such as efficiency, adaptability, and strategic survival, it is likely they will not share our present moral or ethical commitments. Though on the surface, we can think far ahead, we remain suspended in a great void, because real futurism cannot preempt its own ethics. Given the uncertain trajectories of evolution over such long spans of time, it is impossible to predict a shared morality or map out which choices are correct, even on much smaller scales:
There is no ahistorical morality. Phenomena differ in duration but eventually, even mountain ranges fall, reduced to sand, because that is the nature of the world… Morality changes slowly, but it does change, and therefore it is more difficult to compare two ethical codes the greater the chasm of time that separates them. We are somewhat similar to the Sumerians [of 5,000 years ago], but the morality of the Levalloisians [of 30,000–300,000 years ago] would terrify us.
To complicate things further, Lem observes that human agency is not like that of a god—we cannot simply say "Let there be light" and expect reality to match our design. We may believe that moral action in the present causes good outcomes in the future, but there is no hard proof for such calculations. The main caveat is that we do not control the outcomes of our decisions and designs but rather work alongside emergent phenomena and structures we do not fully understand: "Civilization encompasses both everything that a society has collectively desired and what was never anyone's intention… Civilization does not function as it wishes, but as it must." It seems both obvious and pointless to admit that we do not know the outcome of the actions we undertake, or that we have no guarantee that good intentions lead to good effects. Events that seem terrifying to us in the present might yield paradoxically beneficial results in the future, or the opposite. A classic example of moral design gone "wrong" is Max Weber's observation of Protestant asceticism: early Christians saved money to reject material indulgence, yet this behavior enabled the very conditions (capital accumulation, investment, labor structures) that gave birth to consumer capitalism. What began as a moral practice against the world effectively launched a world defined by the very materialism it sought to resist. In this sense, value drift is not only a historical curiosity but a pattern, often catalyzed or accelerated by technology.
Some fields of inquiry, Lem suggests, can at least grasp this limitation: "Mathematicians know perfectly well that they do not know what they are doing. 'Mathematics,' said a very competent person, namely Bertrand Russell, 'can be described as a subject in which we never know what we are talking about or whether what we are saying is true.'" This should challenge the popular idea of a human inventor as "someone who, besides a divine spark, common sense, perseverance, pliers, and a hammer, needs nothing else to achieve her goal." Yet, so much effort is spent on carefully phrasing desires—outlining what should happen, and how things ought to be—that it's easy to forget how every action gives rise to uncontrollable contingencies. There are always forces at play other than human intent, and even if technology is marching forward toward some teleological goal (such as automation), we are moving alongside it like moles in the dark, digging one step at a time. Humans work in tandem with an incomplete corpus of knowledge, because both our internal motivations and the world itself remain ungraspable: "When doing anything, a person almost never knows what they are actually doing—at least not fully."
2
A Morally Opaque Pursuit: Functional and Existential Technologies
Given this inherent unknowability of both ourselves and the world, how can we contemplate the deep, unthinkable future of technology and conceive of a moral orientation toward it? To be clear, Summa Technologiae does not reject utilitarianism but describes it as merely one category of human technological activity. The book does address common ethical concerns, such as deferring too much responsibility to machines (kryptokracja), human suffering under economic and political injustice, the excesses of consumerist culture, or how easily our minds fall prey to biases. The deployment of technology to provide shelter and security, for example, is "mandatory… , only a preparation for the maturity exam; it is the beginning, not the end." Meeting utilitarian goals is simply what a mature civilization should be able to achieve. However complex and urgent, the challenges of altering our environment to benefit both humanity and the biosphere, or of maintaining planetary homeostasis, remain the early questions of a young civilization. They concern our very survival, and without addressing them we remain as helpless as our most distant ancestors:
Homeostatic human activity, using technologies as its unique organs, has made humans the masters of Earth—powerful, though primarily in the eyes of their own apologists, which is themselves. In the face of climate disruptions, earthquakes, and the rare but real danger of large meteor impacts, humanity is fundamentally as helpless as it was during the last glacial period. True, we have developed techniques for aiding victims of various disasters, and some can even be predicted—though not with precision. But we are still far from achieving planetary-scale homeostasis, let alone homeostasis on a stellar scale.
Is it possible that an advanced civilization is defined not by maximum energy [expenditure], but by optimal regulation?
Yet, if our theory of existential technologies hinges at any specific passage in Summa Technologiae, it is one where the relationship between morality and technology is far stranger. Early on in the introduction, Lem suggests, in passing, an idea with great potential, but one might blink and miss it:
Could there one day, even in the most distant future, emerge a technology for remotely controlling internal solar processes, so that [we], infinitely small in comparison to the mass of the sun, could somehow manipulate its billion-year blaze at will? I think it's possible, and I say this not to praise the already sufficiently celebrated human genius, but rather to open up the possibility of contrast. Up until now, humans have not yet grown. Only their capacity for good and evil has expanded.
This phrase, "man has not yet grown" (jak dotąd, człowiek nie wyogromniał) is tinged with a moral orientation in the original Polish. The verb means "to grow in stature," not in the sense of acquiring more power but rather becoming noble and worthy of one's purpose. "We have not yet grown in stature, only our capacity for doing good and evil has expanded." Though Lem does not return to this thought, let us linger here a bit longer.
How could it be that the technologies that make humans grow, that make us noble, are not the ones that we use to do good or harm to one another? A more obvious argument would be that humans become noble precisely through technologies that increase the capacity for good and evil. Yet the idea that there can be a morally opaque but noble pursuit of technology is where we can begin to elaborate the concept of an existential technology. High moral opacity, high existential payoff.
How could it be that the technologies that make humans grow, that make us noble, are not the ones that we use to do good or harm to one another? A more obvious argument would be that humans become noble precisely through technologies that increase the capacity for good and evil. Yet the idea that there can be a morally opaque but noble pursuit of technology is where we can begin to elaborate the concept of an existential technology. High moral opacity, high existential payoff.
Let us label these technologies that mainly concern interpersonal relationships between humans, and transparently increase our capacity for good and evil, as functional. We use them on other people to either harm or help them. We accomplish both great and terrifying things with medication, weapons, mass media, monitoring and transportation systems, construction materials, or energy infrastructures, which also make computation possible. There is no human civilization as we know it without these functional technologies; they also provide the basis for other types of technologies to exist. Existential technologies, on the other hand, are about civilization as we do not yet know it. By altering evolutionary trajectories, they determine not only whether we live well or continue to survive on this planet but also as what we live and survive, and whether that can be still called "us" at all. They may not fit within our present moral categories, because their ability to disrupt our basic civilizational ideals is so extensive that it risks abolishing them. Language, both spoken and written, is the most notable example of an existential technology, having changed everything about selfhood, thought, and memory. Whether a technology is functional or existential might be seen only retrospectively or over the span of millennia. One might be also nested inside the other—perhaps it depends on perspective. As we develop technologies that are seemingly mundane and "for us," their long-term effects might alienate us from whatever definition of humanity had previously been us or seemed natural to us. Ideals so solid that we may not even have names for them could melt into air.
3
Existential Tools for Minds and Bodies
Rereading Summa Technologiae, or any work of futurology, through such a framework is a somewhat arbitrary task. The book presents numerous hypotheses about the trajectories of future technologies, some explored in detail, others mentioned only in passing, and the decision of which to foreground is selective by nature. Let us zoom in on where technology's potential to alienate us and disrupt long-term evolutionary trajectories is most pronounced: first, in epistemology (how we know the world), and second, in ontology (what exists in the world).
The first category is concerned with epistemology, science, and knowledge, as well as the abstract capacities of human civilization, primarily concerned with enabling the continued development of science and technology. Knowledge appears to us, Lem writes, as a grand, beautiful temple that humanity has perfected brick by brick. Only here and there, scattered around the tables like pieces of paper, lay yet unsolved riddles, which we set out to reasonably address in the future. "We leave this temple convinced that these puzzles will be solved sooner or later.… It doesn't even occur to us that solving these riddles might entail the demolition of half the building." Yet, like evolution, knowledge does not progress in a predictable and linear manner but moves through losses, regressions, and eruptions. One of Lem's primary concerns—what he viewed as an existential risk—was that human civilization might struggle to manage the sheer volume of information uncovered by science. He feared that we would be unable to synthesize it effectively, leading to a plateau and eventual decline over time. He predicted that the future will bring a broadscale slowing down of discoveries and then stagnation, with science splitting into microfilter bubbles, isolated intellectual communities that reinforce their own assumptions, unable to create a coherent knowledge corpus.
This embarrassment of riches, this flood of information, thrust upon humanity by its cognitive greed, must be mastered. We must learn to regulate even the progress of knowledge; otherwise, the randomness of subsequent development stages will increase. Successes—suddenly opened areas of new, wonderful activity—will overwhelm us with their vastness, thus preventing us from noticing other, perhaps even more valuable possibilities in the long term. The goal is for civilization to gain the freedom for strategic development maneuvers, so it can steer its own path.
Lem suggests that the advancement of science and technology may depend on decoupling them from human comprehension. In two short passages, he briefly mentions a "gnostic machine":
A gnostic machine must take into account, for the purpose of creating a theory of complexity, a huge number of variables, such that the algorithms of contemporary science cannot produce… At the outset we would receive a theory, coded as, let's say, a whole system of equations. Would humans be able to do anything with these equations?
How much of the matter is under human control is—let's admit it—a matter of perspective. That man can swim does not mean that he can swim the ocean on his own without a ship, not to mention an analogous situation with jets and space rockets. A similar evolution is now taking place, somewhat in parallel, in the information universe. A human might direct a gnostic machine toward a problem that he—or his descendants—might be able to eventually solve on their own, but during its work, the machine might open his eyes to problems he had not even suspected. In the last instance, who has the agency here?
Following Lem's own terminology, we can call these technologies gnostic. Their goal is the automation of science through an at least partial detachment from human cognition. This is no small task, because it requires that we understand how science operates, which is also one of the main themes of Lem's oeuvre. He predicts that increasingly, scholars and scientists will rely on gnostic technologies to generate knowledge through methods that remain somewhat obscure—"building theories not from empirical facts, but from frameworks devised by gnostic machines." This will have implications for how we think about knowledge as such—no longer something explainable according to the scientific method perfected over the last few hundred years.
Many of Lem’s descriptions throughout Summa are substrate-agnostic, yet from our perspective, computers seem like prime candidates for gnostic technologies. Arguably, gnostic machines already exist in the form of black-boxed, noninterpretable deep learning. These technologies produce knowledge, while their internal operations remain obscure. AlphaFold, an advanced AI system developed by DeepMind, has revolutionized the field of biology by accurately predicting the three-dimensional structures of proteins based solely on their amino acid sequences, opening new avenues for drug discovery and disease research. In the quest to uncover signs of extraterrestrial life, SETI researchers are increasingly turning to artificial intelligence for analyzing vast amounts of data collected from radio telescopes. AIs are also analyzing animal communication and finding patterns in bird and whale songs, with researchers already positing that nonhuman animals have alphabets and their own languages, disrupting previous beliefs about human exceptionality. Though this merits a whole essay of its own, these technologies operate outside the principles of causal explanation. In their internal, high-dimensional vector spaces, they process concepts in an entangled, noninterpretable manner. They contribute to knowledge without making it intelligible.
Lem's vision encompasses not only scientific progress but also the use of machine gnosis for the production of future philosophical and metaphysical theories. Throughout various chapters of Summa, he envisions new forms of modeling and simulations whose referents would not be empirical worlds but rather concepts and ideas. Technologies of phantomatics, for example, could enable us to simulate whole worlds based on propositions of specific philosophies. This form of revealed knowledge would be philosophical or metaphysical. We are yet to invent gnostic technologies for these purposes.
A second category of technologies is concerned with what exists in the world, with ontology, identity, and bodies. Let us call them anthropoforming technologies. They manipulate cognition, reproduction, and embodiment, challenging current ideas about freedom, selfhood, or agency. Cloning, for instance, would introduce the issue of "existential relativity," similar to the concept of relativity in physics, where identity and selfhood become entirely relative to the original and its copies. Anthropoforming could also happen on the scale of populations, such as in "a plan to create the 'next model of Homo sapiens' spread out over time, perhaps over centuries or even millennia, not through a sudden leap, but through a gradual and slow process of change, which would smooth out intergenerational differences." This might include the use of "machine matchmakers" to engineer human love and sexual reproduction toward specific trajectories, xenowombs, or in vitro creation of life using sperm preserved for centuries. Speculating on each option, Lem is quite interested in exploring these outrageous possibilities, pondering the meaning of outsourcing supposedly "human" processes and instincts to machines, who themselves possess no interiority:
I am not demonizing these impersonal regulators at all; I am merely presenting the astonishing situation in which, as if in Polyphemus's cave, it is Nobody who approaches us—but this time, for our own good.
In the 1960s, such technologies were mostly hypothetical: "Technology is more aggressive than we usually think," Lem writes, "its interventions into mental life, the issues related to the synthesis and metamorphosis of personality . . . are currently a class of phenomena that remains empty." Yet, this is no longer the case. The number of people who meet their partners through algorithmic matchmaking on dating apps is growing, along with the rising trend of humans entering into romantic relationships with artificial agents, such as chatbots. Consider also nascent technologies of reproduction, such as IVG (in vitro gametogenesis), which permits the creation of eggs and sperm from ordinary body tissue, such as skin cells. Through IVG, "men could become genetic mothers, women could be fathers, and people could be the offspring of one, three, four or any number of parents." While the past two decades have been characterized by the image of the computer nerd and the company CEO, the near future might be focused on anthropoforming or hacking bodies, selves, nervous systems, emotions, and identities. People are already creating digital replicas of deceased loved ones, producing voice clones of themselves for automated interactions with advertisers, and sending deepfakes to engage in sex work. The barrier to adaptation here is not scientific but social. Although these developments seem isolated now, they might signal nascent social readiness for significant identity manipulation through technologies such as CRISPR, a gene-editing tool that allows precise modifications to DNA. On a long enough timeline, such anthropoforming might point toward truly existential changes for human civilization or even the human species.
We can propose many other kinds of technologies, other categories, other possible tools. Taken together, gnostic and anthropoforming technologies can exemplify what existential technologies are: not merely tools for treating each other well or badly, but processes that unsettle the foundations of how we know the world and what exists in it. Gnostic technologies displace human cognition as the central site of epistemic authority, gesturing toward a future in which knowledge is generated through inhuman, often unintelligible processes. Anthropoforming technologies, in turn, destabilize what it means to be human by intervening in embodiment, reproduction, and desire, reframing selfhood as something artificial and contingent. Both suggest that the most significant technological shifts are not necessarily those that directly relate to human needs but those that change what counts as knowledge of existence or as existence itself. In this way, Summa Technologiae remains not only prescient but also indispensable for any futurology that wants to grasp what lies beyond immediate social priorities.
4
Seeing the Future, Eastward
Deprioritizing human sensemaking and aspirational social change, Summa Technologiae stood in sharp contrast to both Promethean Soviet science fiction and state-sanctioned Marxist "science" of the time, where humans as the custodians and captains of the ship called History tame the turbulent waters of Nature, sailing toward ever more robust forms of progress and justice. Unlike political teleology or other utopian convictions that the world is or should be getting "better" over time, evolution shows itself as adaptive, cunning, messy, and indifferent. Life assembles itself in a haphazard and opportunistic manner; it pays no heed to our noble intentions or moral claims. And just like life-forms, technologies do not simply "progress" toward better forms, but meander and mutate. No matter how tightly woven our conceptual nets might be, the world is resistant to our efforts, while also intruding on concepts that just yesterday might have been set in stone.
While it is much easier to think about technology as a pliant tool for social change, this is a convenient delusion befitting an ideologue, but not someone who wants to think in parallel to the currents of history and evolution.
Nevertheless, ideas come into sharper focus when mirrored in the arc of experience. Intellectuals living through momentous historical events might more readily notice certain patterns that govern history as such, which sooner or later happen on other timelines too. What they discover is not culturally relative but only temporarily inaccessible to those who have not yet found themselves in turbulence, where the logic of amoral selection and experimentation with all that exists is laid bare. Though some insights are only graspable through historical contingency, they pertain to all humans.
Nevertheless, ideas come into sharper focus when mirrored in the arc of experience. Intellectuals living through momentous historical events might more readily notice certain patterns that govern history as such, which sooner or later happen on other timelines too. What they discover is not culturally relative but only temporarily inaccessible to those who have not yet found themselves in turbulence, where the logic of amoral selection and experimentation with all that exists is laid bare. Though some insights are only graspable through historical contingency, they pertain to all humans.
While it is much easier to think about technology as a pliant tool for social change, this is a convenient delusion befitting an ideologue, but not someone who wants to think in parallel to the currents of history and evolution.
Nevertheless, ideas come into sharper focus when mirrored in the arc of experience. Intellectuals living through momentous historical events might more readily notice certain patterns that govern history as such, which sooner or later happen on other timelines too. What they discover is not culturally relative but only temporarily inaccessible to those who have not yet found themselves in turbulence, where the logic of amoral selection and experimentation with all that exists is laid bare. Though some insights are only graspable through historical contingency, they pertain to all humans.
Nevertheless, ideas come into sharper focus when mirrored in the arc of experience. Intellectuals living through momentous historical events might more readily notice certain patterns that govern history as such, which sooner or later happen on other timelines too. What they discover is not culturally relative but only temporarily inaccessible to those who have not yet found themselves in turbulence, where the logic of amoral selection and experimentation with all that exists is laid bare. Though some insights are only graspable through historical contingency, they pertain to all humans.
Hence, to revisit some events of Lem's life is to underscore their universal resonance, and their relevance to a theory of existential technologies. If evolution and history do not move toward perfection on a linear timeline, we would do well to listen to those on the backswing of the pendulum while we're moving forward: they are not "behind" in their insights, only at a different point of the path that unfolds multilaterally.
That Lem authored Summa Technologiae is no surprise—in the 1960s, at the peak of his literary career, he already said that he'd like to abandon science fiction, which he described as a genre lacking rigor, for science writing. Though he can be a fantastic storyteller, in some of his erudite fictions, it is clearly visible that he'd rather be doing philosophy or science instead—several of his novels quickly devolve into a series of essayistic lectures that barely mask a plot. In the early 1960s, when he worked on Summa, trips to Moscow and conversations with astronomers and physicists such as Iosif Shklovsky and Piotr Kapica, who treated him as a peer, rekindled his fantasies of a scientific career. With the help of his Russian translators, Adriana Gromova and Dmitri Bruskin, and with the Khrushchev Thaw easing access to anglophone scientific publications in the USSR, Lem was able to access the hotly debated books pertaining to cybernetics, which in turn made writing Summa possible. Unlike in the Stalinist years, during the Thaw cybernetics was no longer considered a reactionary bourgeois science. In its language, Lem was able to find ideas about technology that paralleled those he studied in the natural sciences:
These ideas [in cybernetics] were tied to a specific worldview, in which social bonds are formed through the exchange of information subject to entropy. Norbert Wiener, like Darwin, abandoned the notion that evolution was a gradual progression toward ever higher and better forms. Instead, he pointed out that living beings have an inherent tendency for multidirectional development, while simultaneously imitating their ancestors, which ultimately helps them adapt to their environment.
Lem was uniquely positioned to contribute to these efforts. While he is mostly known as a science-fiction writer and the author of the acclaimed novel Solaris (1961), he trained as a medical doctor, worked as a scientific book reviewer, authored scholarly monographs on empiricism in literature, and was an autodidact of the highest caliber, whose nonfiction works were like guides to scientific and technological changes in the world for Polish readers. Although he is renowned for tales of space travel and alien planets, his interest in the biological sciences remained evident across his roughly twenty novels, dozens of short stories, and hundreds of essays. Throughout Summa Technologiae, he speculates on technological trajectories through the prism of long-term possibilities, rather than through the five- or ten-year social, economic, and political development plans. The Soviet Communist Party much preferred Lem's earlier socialist realist works for their uncomplicated progressive ideas about technology as a tool for social progress. His masterpiece, Solaris—where a mysterious ocean planet resists all human attempts at comprehension, and where technology is more of a metaphysical than a social problem—came under fire and censorship for being mystical and nihilist. Yet, technology is useful and interesting precisely because it cannot be reduced to human designs. Its value lies in its alienating character, which should be embraced. Having lived through the collapse of utopian projects for a better society, Lem's favorite themes were technological accidents and human hubris, or the inability to comprehend alterity and our place in the cosmos. His novel Eden opens with this simple line: "There was a miscalculation."
In letters to friends and when possible, Lem spoke about the realities of writing under Soviet occupation. Describing daily life in communist Poland in 1955, when paper was rationed alongside other goods, he joked: "Writing is the darkest part of my life. My whole creative process is a litany of vile swindles. For years now, just so I can write, I've been blackmailing state officials, exploiting nepotistic connections, lying, cheating and demoralizing." Among shortages of food and heating, writers scribbled their work on envelopes or packaging paper discarded by the post office. Ironically, they also saved paper left over from articles commissioned by the Party, pertaining to progress and morality:
[We are all waxing lyrical] about the vocation of the writer, this conscience of the nation. And then with a little blackmail, a little groveling, one dodgy little essay, a quick phone call to a friend on the editorial board, the most beautiful morality play can be ready.
Lem's actual views on morality, progress, and technology were complex and increasingly focused on exploring the idea of technology as a tendency toward the inhuman and as something that reveals the workings of contingency in our daily lives. In Summa, he notes that science is what lets us peek at the "the essence of a perfectly indifferent world," which remains unmoved by human hopes and fears. Or, as he puts it in one of his novels:
[It is] science that is precisely the transcendence of experience, grinding yesterday's categories of thought into dust; seemingly a day ago, absolute space and time collapsed, today the seemingly eternal difference between… determinism and randomness may burst apart.
At the bottom of philosophy—which always wants to say more than is possible at a given time, because it represents an effort to "capture the world" in a closed conceptual net—even in the works of the most illustrious thinkers, there lies hidden an acute fragility. Man's quest for knowledge is an expanding task whose limit is infinity, but philosophy seeks to attain that limit in one blow, [attempting] a short circuit into certain, complete, and inalterable truth. Science meanwhile advances at its gradual pace, often slowing to a crawl, at times even stepping in place, but eventually it reaches the various ultimate trenches dug by philosophical thought, and, quite heedless of the fact that it is not supposed to be able to cross those final barriers to the intellect, goes right through.
These are defiant thoughts for someone who lived under a political system that wanted to proclaim everything, from the psyche to the cosmos, as submissive to human ideologies. Lem's resignation to the incessant onslaught of history might have stripped him of illusions and naivete, but not of respect for the unknown that lies perpetually in the waiting. Futurology must show us what lies beyond human sensemaking, a task we may achieve both through novels and art and with attention to transformations in science. Lem dramatically titled his final novel Fiasco, reflecting his profound skepticism about humanity's ability to grapple with this task. He spent the remaining two decades of his life publishing nonfiction essays on science, technology, and politics.
Lem's growing pessimism stemmed not only from his interpretation of evolution and history but also his own life. As a young Jewish man growing up in Lviv in the 1920s, he came of age in a city still reeling from the Polish–Ukrainian War of 1918–1919. His medical studies and scientific ambitions were disrupted by the Soviet occupation in 1939, and then the Nazi invasion in 1941, which his family narrowly escaped under harrowing circumstances. These traumas haunted his writing. Having lived through the Holocaust, Soviet imperial expansion, communist authoritarianism, and fast-tracked transitions to capitalism, he knew well what it meant for the world to dissolve and take shape anew. In his novels, human characters often participate in events they do not control, as if they are scraps of paper carried by the tumultuous winds of history. The majority of Lem's adult life took place during the Cold War, when Ukraine and Poland were regarded as merely geopolitical buffer zones. Bulldozered by various techniques of both psychological and physical violence, twentieth-century Eastern Europe was sifted through the curse of history, marred by war and cruelty, and aptly christened "the Bloodlands," where "the good people died first" and "closure is a false harmony, a siren song masquerading as a swan song."
The intellectual rift between the so-called Eastern and Western sides of Europe has not been bridged or even acknowledged, even less so with regard to technology, and this task cannot be mended by a short essay such as this one. Alongside experiences of occupation and a diminished sense of agency, intellectuals in Eastern Europe—or any territory that modernized under occupation—were able to grasp technology as an invasion, or a logic coming from without. Yet, in my estimation, in contrast to numerous postcolonial, postimperial territories, many Eastern European intellectuals have not rejected technology but rather understood it as an inhuman vector beyond the confines of human cruelties, virtues, and the authoritarian ideologies they had to live under. Under Soviet governance, and as is often true of regions under occupation, seized territories were like "free zones of technological and social experimentation, laboratories where modernisation happened with dazzling speed," an "imperial future shock… at a speed that made resistance futile." In response, multiple intellectual avant-gardes emerged whose disjointed style paralleled the disintegration of "normal" human perception. This disjointing of perception—stemming from being caught in cruel webs of history and swept along by waves of change—reveals the nonlinear nature of history: not a path toward progress but a cycle that continually loops back into disintegration. As Tomasz Szerszeń puts it, looking at war, for example, requires adopting fractured, simultaneous points of view: "A sort of double exposure [that] allows one to capture the image of history while simultaneously escaping its destructive force." The experience of externality, lack of agency, or being intruded on by an "outside" can refer not only to the tangible political event of war and occupation but also to an inhuman order of history that transcends human control.
If Lem's Summa Technologiae is a worthy interlocutor for a theory of existential technologies, it is not only because it makes claims that resonate with today's intellectual climate of cross-reading the natural and technical sciences. What we may find in Lem—and, perhaps, in the whole of the Eastern European past and present intellectual legacy—is an antidote to the "long-termist" vision of the future as simplistically tending toward either utopia or disaster, both wholly submissive to human sensemaking. Even if we cannot foresee the precise forms or tools technology will take or create, we can begin to articulate a moral orientation toward what is unknown and inhuman. Rather than recoiling, we may learn to lean into our fatalism but keep stubbornly pushing toward alienation, artificiality, the unknown, and the inhuman, and toward all processes that cannot be fully captured or domesticated by human ideologies, which have proven themselves faulty over and over again. Existential technologies as a framework give us a basic language for describing the progressing detachment of technology from human cognition and morality, while also capturing our sensation of living within a split history, which seems to move forward and backward at the same time rather than tending toward some teleological goal. They capture both the collapse of the ideal of linear progress and a commitment to the continued surfing of technology's unpredictable trajectories.
Bibliography
Arthur, W. Brian. The Nature of Technology: What It Is and How It Evolves. Simon and Schuster, 2009.
Bakhurst, David. "Political Emancipation and the Domination of Nature: The Rise and Fall of Soviet Prometheanism." International Studies in the Philosophy of Science 5, no. 3 (1991): 215–26. https://doi.org/10.1080/02698599108573395.
Biberstein, Sandra. "To Watch the War: An Interview with Olexii Kuchkanskyi and Oleksiy Radynski." Crisis and Communitas, October 24, 2022. https://crisisandcommunitas.com/?crisis=to-watch-the-war-an-interview-mit-olexii-kuchkanskyi-and-oleksiy-radynski.
Brennan, Orla. "Artist Arvida Byström Deepfakes Her Own Nudes." AnOther, April 3, 2024. https://www.anothermag.com/art-photography/15550/arvida-bystrom-ai-deepfake-nudes-artist-in-the-clouds-book.
Butko, Peter. "Summa technologiae: Looking Back and Ahead." In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen's University Press, 2006. https://doi.org/10.1515/9780773575073-006.
Csicsery-Ronay, Istvan. "Lem, Central Europe, and the Genre of Technological Empire." In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen's University Press, 2006. https://doi.org/10.1515/9780773575073-009.
Dawkins, Richard. The Blind Watchmaker: Why the Evidence of Evolution Reveals a Universe Without Design. W. W. Norton & Company, 1996.
The Selfish Gene. Oxford University Press, 1976.
Fagone, Jason. 'The Jessica Simulation,' San Francisco Chronicle, 2021 https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/.
Gajewska, Agnieszka. Stanisław Lem. Wypędzony z wysokiego zamku. Wydawnictwo Literackie, 2021.
Zagłada i gwiazdy. Przeszłość w prozie Stanisława Lema. Wydawnictwo Naukowe UAM, 2016.
Gerovitch, Slava. "InterNyet: Why the Soviet Union did not build a nationwide computer network." History and Technology 24, no. 4 (2008): 335–50. https://doi.org/10.1080/07341510802044736.
Gille, Bertrand. "Histoire des techniques." Annuaires de l'École pratique des hautes études 109, no. 1 (1977): 723–86.
Hanlon, Michael. "The Golden Quarter." Aeon, December 3 2014. https://aeon.co/essays/has-progress-in-science-and-technology-come-to-a-halt.
Hayles, N. Katherine. Bacteria to AI: Human Futures with our Nonhuman Symbionts. University of Chicago Press, 2025.
Unthought: The Power of the Cognitive Nonconscious. University of Chicago Press, 2017.
Hester, Helen. "TTF 2020 – Keynote by Helen Hester. Posted July 7, 2020, by Strelka Institute. YouTube, 29.50. https://www.youtube.com/watch?v=Y1fnG9iA5RA.
Hofstadter, Douglas R. Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books, 1979.
Jumper, John, Richard Evans, Alexander Pritzel, et al. "Highly Accurate Protein Structure Prediction with AlphaFold." Nature 596 (2021): 583–89. https://doi.org/10.1038/s41586-021-03819-2.
Kapp, Ernst. Elements of a Philosophy of Technology: On the Evolutionary History of Culture. University of Minnesota Press, 2018.
Konior, Bogna. "The Gnostic Machine: Artificial Intelligence in Stanisław Lem's Summa Technologiae." In Imagining AI: How the World Sees Intelligent Machines, edited by Stephen Cave and Kanta Dihal. Oxford University Press, 2023. https://doi.org/10.1093/oso/9780192865366.003.0006.
"The Impersonal Within Us: A Conversation with Bogna Konior." Interview by Filippo Scafi and Tommaso Garavaglia. Chaosmotics: Thinking Unbound, December 29, 2022. https://www.chaosmotics.com/en/featured/the-impersonal-within-us.
"Non-Philosophy and Speculative Posthumanism: A Conversation with David Roden." Oraxiom: A Journal of Non-Philosophy 1 (2020), 158–67.
Lem, Stanisław. Bomba megabitowa. Wydawnictwo Literackie, 1999.
Eden. Translated by Marc E. Heine. Harcourt Brace Jovanovich, 1989. First published in Polish in 1959.
Fiasco. Translated by Michael Kandel. Harcourt Brace Jovanovich, 1987. First published in German translation in 1986.
Filozofia przypadku. Literatura w świetle empirii. Wydawnictwo Literackie, 1968.
Głos pana. Wydawnictwo Literackie, 2016, 53-54.
His Master's Voice. MIT Press, 2020.
A Perfect Vacuum. Northwestern University Press, 1999.
"Science-Fiction: A Hopeless Case—with Exceptions." In Microworlds: Writings on Science-Fiction and Fantasy, edited by Franz Rottensteiner. Harcourt, Brace and Company, 1984.
Sex Wars. Warszawa: Wydawnictwo Nowa, 1996.
Solaris. Translated by Bill Johnston. Conversation Tree Press, 2024. First published in Polish in 1961.
Summa Technologiae, Kraków: Wydawnictwo Literackie, 2020.
MacAskill, William. What We Owe The Future. Simon and Schuster, 2022.
Orliński, Wojciech. Lem: Życie nie z tej ziemi. Wydawnictwo Czarne, 2017.
Ratliff, Evan, host. Shell Game. Podcast, 2024–. https://www.shellgame.co/.
Ryan, Mark, and Leonie N. Bossert. "Dr. Doolittle Uses AI: Ethical Challenges of Trying to Speak Whale." Biological Conservation 295 (2024): 110648. https://doi.org/10.1016/j.biocon.2024.110648.
Schulman, Ari. "The World Isn't Ready for What Comes After I.V.F." New York Times, September 9, 2024. https://www.nytimes.com/2024/09/09/opinion/ivf-debate.html.
Simondon, Gilbert, Ninian Mellamphy, and John Hart. On the Mode of Existence of Technical Objects. University of Western Ontario, 1980.
Snyder, Timothy. Bloodlands: Europe between Hitler and Stalin. Random House, 2011.
Stiegler, Bernard. Technics and Time, 1: The Fault of Epimetheus. Stanford University Press, 1998.
Swirski, Peter. Stanislaw Lem: Philosopher of the Future. Oxford University Press, 2015.
Szerszeń, Tomasz. Być gościem w katastrofie. Wydawnictwo Czarne, 2024.
Weber, Max. The Protestant Ethic and the Spirit of Capitalism. Translated and edited by Stephen Kalberg. Routledge, 2001.
Wolfendale, Peter. "The Weight of Forever: Peter Wolfendale Reviews What We Owe the Future by William MacAskill." The Philosopher, November 18, 2024, https://www.thephilosopher1923.org/post/the-weight-of-forever.
Woollacott, Emma. "How AI is Helping the Search for Extraterrestrial Life." BBC News, February 22, 2024. https://www.bbc.com/news/business-68346015.
Na początku lat 60. XX wieku Stanisław Lem spisał Summę Technologiae, 600-stronnicowe dzieło w zakresie futurologii, którego głównym założeniem było „ukazanie ogólnych możliwości… określony sposób determinujących oblicze przyszłości”. Pisanie o całościowych tendencjach technologii, zamiast odgadywania, jakie futurystyczne narzędzia mogą zaistnieć, nie jest prostym zadaniem. Bez odpowiedniej teorii zmian technologicznych często bezradnie rzutujemy naszą teraźniejszość bezpośrednio na przyszłość. „Czego oczekiwałby, po ziemskiej lub pozaziemskiej przyszłości, człowiek jaskiniowy? Olbrzymich, wspaniale łupanych krzemieni”. W swoim Głosie Pana, pod wieloma względami będącym upowieściowioną Summa Technologiae, jedna z postaci ubolewa, że takie linearne wyobrażenia przyszłości „rozczarowują jednostajnością”. Jeśli chcesz jakiegoś „postępu” na tym froncie, ciągnie Lem, musi być on „poznawczy”, odrzeć nas z „truizmów, obiegowych prawd, stereotypów, dostatecznie przebranych, udziwacznionych, aby odbiorca mógł jednocześnie pogrążyć się w bezpiecznym zdziwieniu i pozostać niewytrąconym ze swojej życiowej filozofii”. Dalecy od pogoni za tymi bezpiecznymi cudami, jeśli naprawdę chcemy wejrzeć za zasłonę świata przyszłości, konieczne jest myślenie, które pozbawia nas pewności.
Dla tak trudnego zadania Summa Technologiae stanowi godnego rozmówcę. Na pozór książka jest jedynie symptomem dla wszystkich intelektualnych uniesień lat 60. XX wieku, ponieważ łączy nauki przyrodnicze i wyłaniającą się dziedzinę cybernetyki w szersze ramy dwóch ewolucji—naturalnej i technologicznej—biegnących równolegle, nakładających się i rozchodzących. Choć Lem określił Summę „okropnym tekstem pełnym popisu”, jakby z zakłopotaniem zdawał sobie sprawę, że ugryzł więcej niż mógł przeżuć, biofizyk Peter Butko stawia ją na równi z uznanymi książkami poświęconymi teorii ewolucji i złożoności, takim jak Samolubny gen Richarda Dawkinsa (1976) czy Gödel, Escher, Bach Douglasa Hofstadtera (1979), zauważając, że to Summa jako pierwsza obszernie poruszyła niektóre zagadnienia, za sprawą których te późniejsze książki stały się tak wpływowe i powszechnie czytane. Pod tą powierzchnią—co ciekawsze—Summa Technologiae jest również szczególnym moralitetem, zajmującym dwuznaczne stanowisko względem naszego stosunku do tej w znacznej mierze nieprzewidywalnej siły, jaką jest zmiana technologiczna. Jej głównym celem jako dzieła futurologicznego jest omówienie tego, jaka może być przyszłość, a niekoniecznie, jaka być powinna. W rzeczy samej, jego bezkompromisowe analizy technologii—zarazem służącej człowiekowi, jak i wystawiającej jego moralność na próbę—często stanowiły pożywkę dla technofobów. Lem był jednak daleki od społecznie zaangażowanego krytyka technologii, deklarując, że „nie ufa żadnym przyrzeczeniom, nie wierzy w zapewnienia, podbudowane tak zwanym humanizmem. Jedynym sposobem na technologię jest inna technologia”. Nie był jednak ani techno-utopistą, ani naiwnym technokratą oderwanym od etycznych i filozoficznych pytań, jakie stawia przed nami technologia. „Bioewolucja—jak pisał—jest bowiem ponad wszelką wątpliwość procesem amoralnym, czego o technologicznej powiedzieć niepodobna”.
Czym byłaby więc adekwatna futurologia, tj. taka, która obejmuje zarówno maszynerię jak i moralność technologii? Jeśli zaglądam do Summy Technologiae, by zastanowić się nad tym pytaniem, to nie dlatego, że jest zaniedbanym źródłem historycznym, w którym skrzyżowanie nauk biologicznych z komputacją rezonowałoby z dzisiejszym klimatem intelektualnym, wysuwającym ponownie na pierwszy plan kwestie związane z ewolucją i sztucznością, życiem i maszynami, biotechnologią, czy ekologią i cyfrową infrastrukturą. Powracam raczej do tej książki, ponieważ z jej pomocą możemy przebadać pewien truizm na temat technologii, a mianowicie, że możemy ją kontrolować i że jej rozwój zmierza w kierunku z góry zdefiniowanych i stale ulepszanych form. Działalność ludzka, by zapożyczyć sformułowanie Lema, rzeczywiście może „otworzyć nowy rozdział [w historii] Technologii”. Istotnie,
ludzkie ciała i umysły stanowią wyjątkowo żyzną glebę dla mechanizmów rozpędzonego technologicznego wzrostu, niespotykaną u żadnego innego gatunku na tej planecie. Nasza zdolność do wspomagania postępującej zmiany technologicznej nie może być zakwestionowana. Pytanie jednak pozostaje: jesteśmy konduktorami tego procesu czy jego instrumentami? Jeśli go kształtujemy, czy możemy zobaczyć, dokąd prowadzi? Co jeśli ludzkość jest ledwie rozdziałem w historii technologii, historii ani liniowej, ani mieszczącej się w konwencjonalnych ramach moralnych? Pytania te wykraczają poza to, czy konkretne technologie są dobre czy złe, bądź jakie efekty społeczne mogą przynieść, ponieważ technologia nie jest zwykłą rzeczą użytkową. Jako proces egzystencjalny, wpływa ona na cywilizacyjną i ewolucyjną trajektorię naszego gatunku.
ludzkie ciała i umysły stanowią wyjątkowo żyzną glebę dla mechanizmów rozpędzonego technologicznego wzrostu, niespotykaną u żadnego innego gatunku na tej planecie. Nasza zdolność do wspomagania postępującej zmiany technologicznej nie może być zakwestionowana. Pytanie jednak pozostaje: jesteśmy konduktorami tego procesu czy jego instrumentami? Jeśli go kształtujemy, czy możemy zobaczyć, dokąd prowadzi? Co jeśli ludzkość jest ledwie rozdziałem w historii technologii, historii ani liniowej, ani mieszczącej się w konwencjonalnych ramach moralnych? Pytania te wykraczają poza to, czy konkretne technologie są dobre czy złe, bądź jakie efekty społeczne mogą przynieść, ponieważ technologia nie jest zwykłą rzeczą użytkową. Jako proces egzystencjalny, wpływa ona na cywilizacyjną i ewolucyjną trajektorię naszego gatunku.
Jeśli pomyślimy o technologii jak o zadaniu egzystencjalnym, nie będzie można rozpatrywać jej przez pryzmat prostego moralizatorstwa. Pojęcie technologii egzystencjalnych, które esej ten proponuje, obsługiwałoby rozległe skale temporalne i wymykało się swojskim kategoriom etycznym. Zamiast popychać nas ku lepszemu światu w jakimkolwiek prostoliniowym sensie, generowałyby alienujące i gwałtowne zmiany na granicy naszej zdolności ich pojmowania. Dzięki trwałemu zainteresowaniu teorią ewolucji i długoterminowymi prognozami, a także dzięki trzeźwemu spojrzeniu na kwestie sprawczości i kontroli, wyostrzonemu przez brutalną historię Europy Wschodniej w XX wieku, Summa Technologiae staje się atrakcyjną soczewką do refleksji nad tą ideą.
1
Dwie ewolucje i amoralność czasu głębokiego
Historię naszego gatunku często kreśli się za pomocą narzędzi, które sami stworzyliśmy. Rewolucja agrarna nabrała tempa w starożytności dzięki anatolijskim technikom uprawy, mezopotamskim systemom irygacyjnym i egipskim pługom. Wytapianie żelaza w Afryce Zachodniej przekształciło średniowieczne działania wojenne, podczas gdy nauka została przeobrażona przez algebrę i astronomię w świecie islamu. Handel kwitł dzięki wynalezieniu kompasu w Chinach. Soczewki optyczne, prasa drukarska i proch strzelniczy zdefiniowały renesans na całym świecie, a później silniki parowe, aparaty fotograficzne i maszyny włókiennicze zapoczątkowały rewolucję przemysłową. Ta dobrze znana historia dociera do teraźniejszości, z jej elektrycznymi i energetycznymi infrastrukturami, samochodami, fabrykami i komputerami. Skupiając się raczej na tendencjach niż na konkretnych narzędziach, Lem proponuje rozmaite przyszłe trajektorie, w tym eksplorację kosmosu i pierwszy kontakt z obcą inteligencją; intelektronikę, inżynierię inteligencji; przemianę relacji między nauką a religią z punktu widzenia komputacji; możliwość strukturalnego wpływu na relację między chaosem a informacją; fantomatykę i inżynierię kosmogeniczną, które dotyczą tworzenia istot i światów w wirtualnych rzeczywistościach i symulacjach; różne formy modelowania; cerembromatykę, która obejmuje technologiczną manipulację myślami, przekonaniami i cechami charakteru; teletaksję i fantokomplikację, które są praktykami klonowania i rozszczepiania świadomości; różne metody automatyzacji produkcji naukowej i metafizycznej wiedzy; tworzenie syntetycznego i świadomego języka; biotechnologię; cyborgizację; i technologie kształtujące miłość, genetykę i reprodukcję seksualną. Tendencje te są zgłębiane mniej lub bardziej wnikliwie oraz z różnym stopniem konsekwencji, ale można by napisać całe eseje na temat każdej.
A jednak, choć zadanie futurologii polega na zmapowaniu przyszłości, Lem rozpoczyna Summę Technologiae od wymienienia licznych wyzwań stojących przed tego typu prognozowaniem. Na przykład, kłopotliwe jest określenie długości trwania danej tendencji technologicznej, gdyż doniosłe odkrycia często dokonują się z przypadku, a nie intencjonalnie. Nie radzimy sobie również z kontrolowaniem długotrwałych konsekwencji naszych projektów—każdy wynalazek ma podwójne ostrze i przekracza własne warunki początkowe. Mając na uwadze te trudności, Lem pyta, „czy rozprawiać o przyszłych różach nie jest zajęciem co najmniej niestosownym dla zagubionego w łatwo palnych lasach współczesności?” W całej książce zmaga się on ze świadomością, że naukowo ugruntowana teoria rozwoju technologicznego musi być teorią wszystkiego. Technologia wyłania się z „natury” i kosmosu, wraz z ludzką historią i cywilizacją. Gdy zaczynamy sondować granice między tymi kategoriami, zacierają się, skłaniając nas do poszukiwania ram pojęciowych zdolnych do ujęcia ich jako jednolitej całości. Technologia rzeczywiście zdaje się nierozłączna z jej implementacją w konkretnych przedmiotach i narzędziach, w czym nie odbiega od ewolucji, którą można rozpatrywać poprzez jej konkretne przejawy w indywidualnych organizmach, gatunkach i ekosystemach. Ale, o ile posiadamy całościowe teorie ewolucji, o tyle w przypadku technologii nie potrafimy dostrzec lasu pośród drzew. Choć możemy podać niezliczone przykłady (pisanych tekstów, dróg, akweduktów, komputerów, narzędzi do edycji genów, kamer), całościowa teoria technologii jako ciągłego procesu, która wyjaśniałaby dlaczego pewne formy powstają i trwają, wciąż jest w toku. Zapewne potrzebujemy dzieła na miarę O powstawaniu gatunków Darwina, teorii, która opisywałaby, jak technologia produkuje poszczególne rzeczy w świecie i dlaczego jedne istnieją, a inne nie.
Relacja między technologią a ewolucją jest jednym z najobszerniej dyskutowanych tematów w literaturze poświęconej Summa Technologiae. Aby sformułować koncepcję technologii egzystencjalnych, musimy zaznaczyć, że Lema pociągała idea, iż ewolucja, w poetycki sposób nazwana przez Richarda Dawkinsa „ślepym zegarmistrzem”, jest bezosobowym projektantem, co czyni jej osiągnięcia jeszcze bardziej godnymi podziwu. Na przykład, uważa on komórkę za “konstruktora ślepego, działającego metodą «prób i błędów», [toteż] tym bardziej właśnie zdumiewa nas i poraża jej «wstępna dalekowzroczność»”. W przeciwieństwie do komórki, ludzka dalekowzroczność zbyt często zostaje stłamszona przez myśl, która nie może powstrzymać się przed odwoływaniem się do podmiotowości. Akapit zamykający Summa Technologiae pięknie oddaje tę różnicę między ludzkimi pewnikami a bezmyślnymi projektami ewolucji:
dwudziestu liter aminokwasowych zbudowała Natura język „w stanie czystym”, który wyraża — za nieznacznym przestawieniem sylab nukleotydowych— fagi, wirusy, bakterie, tyranozaury, termity, kolibry, lasy i narody — jeśli ma tylko do dyspozycji czas dostateczny. Język ten, tak doskonale ateoretyczny, antycypuje nie tylko warunki dna oceanów i szczytów górskich, ale kwantowość światła, termodynamikę, elektrochemię, echolokację, hydrostatykę – i Bóg wie, co jeszcze, a czego my na razie nie wiemy! Czyni to tylko „praktycznie”, ponieważ sprawiając wszystko, niczego nie rozumie, lecz o ileż sprawniejsza jest jego bezrozumność od naszej mądrości. Czyni to zawodnie, jest rozrzutnym szafarzem twierdzeń syntetycznych o własnościach świata, bo zna jego statystyczną naturę i zgodnie z nią właśnie działa: nie przywiązuje wagi do twierdzeń pojedynczych —liczy się dlań całość miliardoletniej wypowiedzi. Doprawdy, warto nauczyć się takiego języka, który stwarza filozofów, gdy nasz — tylko filozofie.
A jednak to właśnie ta różnica decyduje o moralnej odpowiedzialności ludzi, podczas gdy „empiryczne praktyki milionoletnie [ewolucji] pochłaniały hekatomby ofiar, tych jej „fałszywych rozwiązań” stawianego przez nowe warunki problemu zachowania życia”. Tam, gdzie ewolucja może, bez zastanowienia, unicestwić całe populacje lub skazać jednostki na torturę ułomności, my nie możemy udawać, że gdybyśmy mieli podjąć podobną decyzję, taką jak zabicie gatunku lub skazanie innych ludzi na długotrwałe tortury, nie miałoby to żadnego ciężaru moralnego:
Nie można równocześnie dokonywać odkryć i wymawiać się od ponoszenia odpowiedzialności za ich konsekwencje. Skutki takiego postępowania, choć w innych, niebiologicznych dziedzinach, znamy. Są one żałosne. Uczony próżno stara się zawęzić swą pracę, tak by miała charakter zdobywania informacji, murami chronionego przed problematyką jej użytkowania. Ewolucja, jakeśmy to już explicite i implicite ukazywali, działa bezwzględnie. Człowiek, poznając stopniowo jej czynności konstruktorskie, nie może udawać, że gromadzi wiedzę wyłącznie teoretyczną. Ten, kto poznaje skutki decyzji, kto zyskuje moc ich pobierania, będzie niósł ciężar odpowiedzialności, z którym Ewolucja jako konstruktor bezosobowy tak łatwo sobie radziła, bo dla niej nie istniał.
Dlatego właśnie pytanie o technologię i jej rolę w dramacie istnienia staje się tak doniosłe. Czy jest ona podległa ludzkim działaniom moralnym, czy też bezmyślnym projektem ewolucji? William MacAskill w What We Owe the Future, jednej z najpopularniejszych i najbardziej wpływowych książek na temat dalekosiężnych trajektorii rozwoju technologicznego, opowiada się za drugą odpowiedzią. Jego „longtermistyczna” filozofia nie tylko zachęca nas do mierzenia czasu w tysiącleciach i wyobrażania sobie świata za 500 milionów lat, ale także do jego personifikacji, przywodząc na myśl wszystkich, na których nasze obecne działania mogą potencjalnie wpłynąć. Przedstawia współczesnych ludzi jako „nieroztropnych nastolatków, którzy nie nauczyli się jeszcze jak podejmować właściwe, altruistyczne wybory uwzględniające korzyści dla przyszłości i błaga nas, abyśmy postępowali dziś dla dobra przyszłych pokoleń. Z takiej perspektywy przyszłe wydarzenia i postawy etyczne są wyobrażane jako zrozumiałe i będące w zasięgu naszego wpływu, a postęp technologiczny powinien z założenia uczynić świat lepszym. Założenie, że możemy z góry widzieć, które technologie mają dobre lub złe skutki dla cywilizacji i musimy po prostu zdecydować, w którą stronę chcielibyśmy pójść, leży u podstaw wielu dzisiejszych autorytarnych wizji, od krytyki technologii jako inherentnie szkodliwej po utopijne wyobrażenia o technicznych rozwiązaniach dla społecznych bolączek.
Wraz z Summa Technologiae możemy jednak wyartykułować inną perspektywę, nie porzucając przy tym zadania przewidywania długofalowego rozwoju technologicznego. Zacznijmy od tego, że choć formy życia na tej planecie za 500 milionów lat mogą postępować zgodnie z instrumentalnymi wartościami, takimi jak wydajność, zdolność adaptacji i strategiczne przetrwanie, to prawdopodobnie nie będą podzielać naszych obecnych przekonań moralnych czy etycznych. Choć na pozór możemy wybiec myślami daleko w przyszłość, pozostajemy zawieszeni w wielkiej pustce, ponieważ prawdziwy futuryzm nie może wyprzedzić własnej etyki. Biorąc pod uwagę niepewne trajektorie ewolucji obejmujące tak długi okres czasu, niemożliwe jest przewidzenie wspólnej moralności lub wytyczenie właściwych wyborów, nawet w znacznie mniejszej skali:
[N]ie ma moralności ponadhistorycznej. Różne są tylko skale trwania zjawisk; w końcu jednak nawet łańcuchy górskie upadają, obrócone w piasek, bo taki jest świat. Człowiek, istota nietrwała, chętnie posługuje się pojęciem wieczności. Wieczne mają być pewne dobra duchowe, wielkie dzieła sztuki, systemy moralne. Nie łudźmy się jednak: i one są śmiertelne. Nie jest to zastąpienie ładu chaosem ani konieczności wewnętrznej – bylejakością. Moralność zmienia się powoli, ale się zmienia i dlatego tym trudniej zestawiać ze sobą dwa kodeksy etyczne, im większa dzieli je otchłań czasu. Jesteśmy bliscy Sumeryjczykom [sprzed 5000 lat], ale moralność człowieka kultury lewaluaskiej [sprzed 30-50 000 lat] przeraziłaby nas .
Komplikując sprawy jeszcze bardziej, Lem zauważa, że ludzka sprawczość nie przypomina boskiej—nie możemy zwyczajnie powiedzieć „Niech stanie się światło” i oczekiwać, że rzeczywistość dorówna naszemu projektowi. Możemy wierzyć, że działanie moralne w teraźniejszości spowoduje dobre skutki w przyszłości, ale nie mamy żadnego twardego dowodu dla takich kalkulacji. Rzecz w tym, że nie kontrolujemy rezultatów naszych decyzji i projektów, a raczej działamy w odniesieniu do wyłaniających się zjawisk i struktur, których w pełni nie rozumiemy: „cywilizacja obejmuje zarówno to wszystko, czego zbiorowość pragnęła, jak i to, co nie było niczyim zamiarem… Cywilizacja nie działa tak, jak chce, ale tak, jak musi działać”. Przyznanie, że nie znamy wyniku podjętych przez nas działań, wydaje się zarówno oczywiste, jak i bezcelowe, ale nie mamy żadnej gwarancji, że dobre intencje prowadzą do dobrych skutków. Wydarzenia, które zdają się nam przerażające dziś, mogą przynieść paradoksalnie pozytywne rezultaty w przyszłości, albo na odwrót. Klasycznym przykładem projektu moralnego, który się „wykoleił”, jest obserwacja Maxa Webera odnośnie protestanckiej ascezy: wcześni chrześcijanie oszczędzali pieniądze, aby nie oddawać się materialnym przyjemnościom, lecz właśnie to zachowanie utworzyło warunki (akumulacja kapitału, inwestycje, struktury prac), które dały początek kapitalizmowi konsumpcyjnemu. To, co zaczęło się jako praktyka moralna przeciw światu, skutecznie zapoczątkowało świat określony dokładnie przez ten sam materializm, któremu miała się przeciwstawić. W tym sensie dryf wartości jest nie tylko historyczną ciekawostką, ale też wzorcem, często katalizowanym lub akcelerowanym przez technologię.
Niektóre dziedziny badań, jak sugeruje Lem, mogą przynajmniej uchwycić to ograniczenie: „matematycy doskonale wiedzą, że nie wiedzą, co robią. «Matematykę—powiedziała osoba bardzo kompetentna, bo Bertrand Russell—można określić jako przedmiot, w którym nigdy nie wiemy, o czym mówimy ani czy to, co mówimy, jest prawdą»”. Powinno to podważyć popularną ideę człowieka jako wynalazcy, „któremu oprócz iskry bożej, zdrowego rozsądku, wytrwałości, obcęgów i młotka niczego więcej dla osiągnięcia celu nie trzeba”. A jednak tak wiele wysiłku poświęca się na staranne formułowanie pragnień—określanie tego, co powinno się wydarzyć i jak rzeczy powinny wyglądać—że łatwo zapomnieć, iż każde działanie rodzi niekontrolowane przypadki. W grę zawsze wchodzą siły inne niż ludzkie intencje, a nawet jeśli technologia maszeruje naprzód w kierunku jakiegoś teleologicznego celu (takiego jak automatyzacja), poruszamy się obok niej jak krety kopiąc krok po kroku w ciemności. Ludzie działają w parze z niekompletnym zasobem wiedzy, ponieważ zarówno nasze wewnętrzne motywacje, jak i sam świat pozostają nieuchwytne: „czyniąc cokolwiek, człowiek prawie nigdy nie wie, co właściwie czyni—w każdym razie nie wie do końca”.
2
Moralnie nieprzejrzysty wysiłek: technologie funkcjonalne i egzystencjalne
Mając na uwadze fundamentalną niepoznawalność zarówno nas samych, jak i świata, w jaki sposób możemy rozważać głęboką, nieprzeniknioną dla myśli przyszłość technologii i wyobrazić sobie jakąkolwiek względem niej moralną orientację? Dla jasności, Summa Technologiae nie odrzuca utylitaryzmu, ale uznaje go jedynie za jedną z kategorii ludzkiej działalności technologicznej. Książka odnosi się do powszechnych kwestii etycznych, takich jak przenoszenie odpowiedzialności na maszyny (kryptokracja), ludzkie cierpienie z powodu niesprawiedliwości ekonomicznej i politycznej, przerost kultury konsumpcyjnej, albo to, jak łatwo nasze umysły padają ofiarą uprzedzeń. Na przykład, wdrożenie technologii w celu zapewnienia schronienia i bezpieczeństwa jest „zadaniem obowiązkowym, przygotowaniem do egzaminu dojrzałości, początkiem jej, a nie końcem” . Realizacja celów utylitarnych jest po prostu tym, co dojrzała cywilizacja powinna móc osiągnąć. Jakkolwiek złożone i pilne, wyzwania związane ze zmianą naszego środowiska dla dobra zarówno ludzkości, jak i biosfery, lub z utrzymaniem planetarnej homeostazy, pozostają wstępnymi pytaniami młodej cywilizacji. Dotyczą one naszego przetrwania, a bez ich rozwiązania pozostajemy tak samo bezradni, jak nasi najodleglejsi przodkowie:
Homeostatyczna, technologiami, jako swoistymi organami, posługująca się działalność człowieka uczyniła go panem Ziemi, potężnym właściwie tylko w oczach apologety, którym jest on sam. Wobec zaburzeń klimatycznych, trzęsień ziemi, rzadkiego, ale realnego niebezpieczeństwa upadku wielkich meteorów człowiek jest w gruncie rzeczy tak samo bezradny, jak w ostatnim glacjale. Owszem — wytworzył technikę niesienia pomocy poszkodowanym takimi czy innymi kataklizmami. Niektóre umie — chociaż niedokładnie — przewidywać. Do homeostazy na skalę planety jest jeszcze daleko, a cóż dopiero mówić o homeostazie w wymiarze gwiazdowym.
Może wysoko rozwinięta cywilizacja oznacza nie najwyższą energię, ale najdoskonalszą regulację?
Niemniej, jeśli nasza teoria technologii egzystencjalnych opiera się na jakimś szczególnym fragmencie Summa Technologiae, to jest nim ten, w którym relacja między moralnością a technologią jest znacznie dziwniejsza. Na początku wprowadzenia Lem mimochodem sugeruje koncepcję o ogromnym potencjale, choć łatwo można ją przeoczyć:
Czy powstać może, niechby w najodleglejszej przyszłości, technologia zdalnego sterowania przemianami wewnątrzsłonecznymi, tak aby istoty, nie do wyobrażenia nikłe w stosunku do masy słonecznej, umiały dowolnie powodować jej miliardoletnim pożarem? Wydaje mi się, że to jest możliwe, a mówię to, nie aby wielbić i beze mnie dostatecznie sławiony geniusz ludzki, ale, przeciwnie, by utworzyć szansę kontrastu. Jak dotąd, człowiek nie wyogromniał. Wyogromniały tylko jego możliwości czynienia drugim dobra lub zła.
W wyrażeniu tym, „jak dotąd, człowiek nie wyogromniał”, daje się wyczuć moralne nastawienie. Czasownik „wyogromnieć” nie znaczy tu nabywania większej mocy lecz raczej stawania się szlachetnym i godnym własnego przeznaczenia. „Nie wyolbrzymieliśmy jeszcze, lecz jedynie nasza zdolność czynienia dobra lub zła się powiększyła”. Choć Lem nie powraca do tej myśli, zatrzymajmy się przy niej na moment.
Jak to możliwe, że technologie, które pozwalają ludziom wzrastać, które czynią nas szlachetnymi, nie są tymi, których używamy do czynienia dobra lub krzywdy sobie nawzajem? Bardziej oczywistym argumentem byłoby to, że ludzie stają się szlachetni właśnie dzięki technologiom, które zwiększają zdolność do czynienia dobra i zła. Niemniej to właśnie w idei moralnie nieprzejrzystego, ale szlachetnego dążenia technologicznego, możemy zacząć rozwijać koncepcję technologii egzystencjalnej. Wysoka moralna nieprzejrzystość, wysoka egzystencjalna premia.
Jak to możliwe, że technologie, które pozwalają ludziom wzrastać, które czynią nas szlachetnymi, nie są tymi, których używamy do czynienia dobra lub krzywdy sobie nawzajem? Bardziej oczywistym argumentem byłoby to, że ludzie stają się szlachetni właśnie dzięki technologiom, które zwiększają zdolność do czynienia dobra i zła. Niemniej to właśnie w idei moralnie nieprzejrzystego, ale szlachetnego dążenia technologicznego, możemy zacząć rozwijać koncepcję technologii egzystencjalnej. Wysoka moralna nieprzejrzystość, wysoka egzystencjalna premia.
Nazwijmy te technologie, które dotyczą głównie relacji interpersonalnych między ludźmi i w przejrzysty sposób zwiększają naszą zdolność do czynienia dobra i zła, funkcjonalnymi. Używamy ich by wyrządzić krzywdę lub pomóc innym ludziom. Osiągamy wspaniałe i przerażające rzeczy dzięki lekom, broni, środkom masowego przekazu, systemom monitorowania i transportu, materiałom budowlanym lub infrastrukturom energetycznym, które również umożliwiają komputację. Nie byłoby znanej nam cywilizacji ludzkiej bez tych funkcjonalnych technologii—zapewniają one również podstawę dla innych rodzajów technologii. Natomiast technologie egzystencjalne dotyczą etapu cywilizacji, o którym jeszcze nic nie wiemy. Zmiany trajektorii ewolucyjnych decydują one nie tylko o tym, czy będziemy dobrze żyć lub nadal istnieć na tej planecie, lecz także o tym, jako co będziemy żyć i istnieć—i czy to coś może w ogóle będzie można jeszcze nazywać „nami”. Mogą nie mieścić się w naszych obecnych kategoriach moralnych, ponieważ ich zdolność do zaburzania naszych podstawowych ideałów cywilizacyjnych jest tak wielka, że grozi ich całkowitym unicestwieniem. Język, zarówno mówiony, jak i pisany, jest najbardziej godnym uwagi przykładem technologii egzystencjalnej, która zmieniła wszystko w zakresie podmiotowości, myślenia i pamięci. To, czy technologia jest funkcjonalna czy egzystencjalna, może być postrzegane tylko retrospektywnie lub w skali tysiącleci. Jedno może być również osadzone w drugim—być może zależy to od perspektywy. Długofalowe skutki technologii, które wydają się przyziemne i „dla nas”, mogą wyobcować nas z każdej definicji człowieczeństwa, z którą wcześniej się utożsamialiśmy lub która wydawała się nam naturalna. Ideały tak solidne, że możemy nawet nie mieć dla nich nazw, mogą rozpłynąć się w powietrzu.
3
Narzędzia egzystencjalne dla umysłów i ciał
Ponowna lektura Summa Technologiae, czy jakiejkolwiek pracy z zakresu futurologii, pod takim kątem jest zadaniem dość arbitralnym. Książka przedstawia liczne hipotezy na temat trajektorii przyszłych technologii, niektóre omówione szczegółowo, inne wspomniane zaledwie mimochodem, więc decyzja o tym, które z nich umieścić na pierwszym planie, jest z istoty wybiórcza. Przyjrzyjmy się bliżej temu, gdzie potencjał technologii do naszego wyobcowania i zaburzenia długoterminowych trajektorii ewolucyjnych jest najbardziej widoczny: po pierwsze, w epistemologii (w jaki sposób poznajemy świat), a po drugie, w ontologii (co istnieje w świecie).
Pierwsza kategoria dotyczy epistemologii, nauki i wiedzy, ale także abstrakcyjnych zdolności cywilizacji ludzkiej, głównie skoncentrowanych na umożliwianiu dalszego rozwoju nauki i technologii. Wiedza jawi się nam, pisze Lem, jako okazała, piękna świątynia, którą ludzkość udoskonalała cegła po cegle. Jedynie tu i ówdzie, porozrzucane po stołach niczym kartki papieru, leżą jeszcze nierozwiązane zagadki, które zamierzamy z głową rozwikłać w przyszłości. „Opuszczamy ten przybytek z przeświadczeniem, że owe zagadki rozwiąże się prędzej czy później… Nie przychodzi nam nawet na myśl, że rozwiązanie owych łamigłówek może pociągnąć za sobą zburzenie połowy gmachu”. Jednak, podobnie do ewolucji, wiedza nie rozwija się w przewidywalny i linearny sposób, lecz przechodzi przez straty, regresje i wybuchy. Jeden z głównych powodów zaniepokojenia Lema—w czym widział ryzyko egzystencjalne—wiązał się z tym, że ludzka cywilizacja może mieć trudności z zarządzaniem samym ogromem informacji odkrywanych przez naukę. Obawiał się, że nie będziemy zdolni do ich efektywnej syntezy, co z czasem doprowadzi do stagnacyjnego plateau, a w końcu do upadku. Przewidywał, że przyszłość przyniesie ogólne spowolnienie odkryć, a następnie zastój, a nauka podzieli się na bańki mikrofiltracyjne, odizolowane społeczności intelektualne, wzmacniające własne założenia, niezdolne do stworzenia spójnego korpusu wiedzy.
Embarras de richesse, lawinę informacji, obruszoną na człowieka przez jego zachłanność poznawczą, należy opanować. Musimy nauczyć się regulowania nawet postępu wiedzy, w przeciwnym razie losowość kolejnych etapów rozwoju będzie rosła. Wygrane – to jest otwierające się nagle obszary nowego, wspaniałego działania – będą nas zamykały swym ogromem, uniemożliwiając przez to dostrzeżenie innych, kto wie, czy w dalekosiężnej perspektywie nie cenniejszych jeszcze możliwości. Chodzi o to, aby cywilizacja zyskała swobodę strategicznego manewru rozwojowego, aby mogła pokierować własnymi drogami.
Lem sugeruje, że postęp nauki i technologii może wymagać ich uniezależnienia od ludzkiej zdolności pojmowania. W dwóch krótkich fragmentach wspomina przelotnie o „maszynie gnostycznej”:
Maszyna gnostyczna musi (…) uwzględniać, dla stworzenia teorii układów złożonych, wielką ilość parametrów, taką, jakiej algorytmy nauki współczesnej podołać nie potrafią… Otóż na wyjściu „gnostycznego kreatora” otrzymujemy teorię, zakodowaną, powiedzmy, w postaci całego systemu równań. Czy ludzie będą mogli z owymi równaniami cokolwiek począć?
To, w jakiej mierze kontrola poczynań pozostanie w ręku człowieka, jest po trosze – przyznajmy — kwestią wybranego punktu widzenia. Z tego, że człowiek sam umie pływać, nie wynika, jakoby bez okrętu zdolny był przepłynąć ocean, cóż dopiero, gdy w ten obraz włączyć odrzutowce i rakiety kosmiczne. Podobna ewolucja rozpoczyna się, równolegle niejako, w uniwersum informacyjnym. Człowiek może nakierować maszynę gnostyczną na problem, który potrafiłby może i sam rozwiązać (on albo jego prawnukowie), lecz maszyna może mu w toku pracy otworzyć oczy na problem, którego istnienia nawet nie podejrzewał. Kto właściwie ma — w ostatnim przykładzie – inicjatywę wiodącą?
Przyjmując terminologię samego Lema, możemy nazwać te technologie gnostycznymi. Ich celem jest automatyzacja nauki poprzez przynajmniej częściowe oderwanie się od ludzkiego poznania. Jest to nie lada zadanie, ponieważ wymaga zrozumienia, jak działa nauka, co jest jednocześnie jednym z głównych tematów twórczości Lema. Przewiduje on, że uczeni i naukowcy w coraz większym stopniu będą polegać na technologiach gnostycznych, aby wytwarzać wiedzę za pomocą metod do pewnego stopnia nieprzeniknionych—budując teorie nie z empirycznych faktów, lecz z struktur opracowanych przez maszyny gnostyczne. Będzie to miało konsekwencje na to, jak myślimy o wiedzy w ogóle—nie będzie to już coś, co można wyjaśnić zgodnie z metodą naukową udoskonalaną w ciągu ostatnich kilkuset lat.
Wiele opisów Lema na przestrzeni Summy zachowuje agnostycyzm względem podłoża, jednak z naszej perspektywy komputery wydają się najlepszymi kandydatami na technologie gnostyczne. Przypuszczalnie maszyny gnostyczne już istnieją w formie czarnych skrzynek nieinterpretowalnego głębokiego uczenia (deep learning). Technologie te produkują wiedzę, podczas gdy ich wewnętrzne operacje pozostają ukryte i niejasne. AlphaFold, zaawansowany system SI opracowany przez DeepMind, zrewolucjonizowało dziedzinę biologii dokładnie przewidując trójwymiarowe struktury białek w oparciu wyłącznie o sekwencje aminokwasów, otwierając tym samym nowe ścieżki dla odkrywania leków i badania chorób. W poszukiwaniu oznak życia pozaziemskiego, naukowcy zajmujący się SETI coraz częściej sięgają po sztuczną inteligencję do analizy ogromnych ilości danych zebranych przez radioteleskopy. Systemy SI analizują także komunikację zwierzęcą i znajdują wzorce w pieśniach ptaków i wielorybów, a naukowcy dziś twierdzą, że nieludzkie zwierzęta mają własne alfabety i języki, podważając tym samym wcześniejsze przekonania o wyjątkowości człowieka. Chociaż zasługuje to na osobny esej, technologie te działają poza zasadami wyjaśniania przyczynowego. W swoich wewnętrznych, wysokowymiarowych przestrzeniach wektorowych przetwarzają one pojęcia w splątany, niemożliwy do zinterpretowania sposób. Przyczyniają się do wytwarzania wiedzy bez czynienia zrozumiałym, w jaki sposób to robią.
Wizja Lema obejmuje nie tylko postęp naukowy ale też wykorzystanie maszyn gnostycznych do tworzenia przyszłych teorii filozoficznych i metafizycznych. W różnych rozdziałach Summy przewiduje on nowe formy modelowania i symulacji, które nie odnosiłyby się do empirycznych światów, a do pojęć i idei. Technologie fantomatyki, na przykład, mogłyby pozwolić nam symulować całe światy na podstawie twierdzeń konkretnych filozofii. Ta forma wiedzy objawionej byłaby filozoficzna lub metafizyczna, aczkolwiek wciąż jeszcze nie wynaleźliśmy gnostycznych technologii do tych celów.
Druga kategoria technologii dotyczy tego, co istnieje w świecie, ontologii, tożsamości i ciał. Nazwijmy je technologiami antropoformowania. Modyfikują one poznanie, reprodukcję i ucieleśnienie, rzucając wyzwanie aktualnym ideom wolności, osobowości czy sprawczości. Klonowanie, na przykład, wprowadziłoby kwestię „względności egzystencjalnej”, w podobny sposób do względności w fizyce, gdzie tożsamość i osobowość stałyby się całkowicie relatywne względem oryginału i jego kopii. Antropoformowanie może odbywać się również w skali populacji, czego przykładem byłby „plan stworzenia «następnego modelu Homo Sapiens», nie nagłym skokiem, ale drogą zmian powolnych i stopniowych, co wygładziłoby międzypokoleniowe różnice”. Może to oznaczać wykorzystanie „maszynowych swatek” do inżynierii ludzkiej miłości i reprodukcji seksualnej w kierunku określonych trajektorii, ksenomacic, bądź stworzenie życia in vitro przy użyciu spermy przechowywanej przez wieki. Spekulując nad każdą opcją, Lem jest dość zainteresowany badaniem tych skandalizujących możliwości, rozmyślając nad znaczeniem outsourcingu rzekomo „ludzkich” procesów i instynktów do maszyn, które same w sobie nie posiadają wnętrza:
Nie demonizuję wcale owych bezosobowych regulatorów, przedstawiam tylko zadziwiającą sytuację, w której, jak w Polifemowej jaskini, dobiera się do nas Nikt — ale tym razem dla naszego dobra.
W latach 60. XX wieku takie technologie miały charakter głównie hipotetyczny: „Technologia jest bardziej agresywna, aniżeli zazwyczaj sądzimy. Jej ingerencje w życie psychiczne, problemy związane z syntezą i metamorfozą osobowości… aktualnie tylko są klasą zjawisk pustą”. Tak jednak już nie jest. Liczba ludzi, którzy poznają swoich partnerów poprzez algorytmiczne swatanie w aplikacjach randkowych rośnie, wraz z rosnącym trendem ludzi wchodzących w romantyczne relacje ze sztucznymi podmiotami, takimi jak chatboty. Weźmy również pod uwagę pojawiające się technologie reprodukcji, jak IVG (gametogeneza in vitro), która pozwala na tworzenie jajek i spermy ze zwykłych tkanek ciała, takich jak komórki skóry. Dzięki IVG „mężczyźni mogą zostać genetycznymi matkami, kobiety ojcami, a ludzie mogą być potomstwem jednego, trójki, czwórki czy dowolnej liczby rodziców”. Podczas gdy ostatnie dwie dekady charakteryzowały się wizerunkiem nerda komputerowego i menadżera korporacyjnego, niedaleka przyszłość może skoncentrować się na antropoformowaniu lub hakowaniu ciał, osób, systemów nerwowych, emocji i tożsamości. Ludzie już tworzą cyfrowe repliki swoich zmarłych bliskich, produkują swoje klony głosowe do automatycznej interakcji z reklamodawcami oraz wysyłają deepfake’i do świadczenia usług seksualnych. Bariera dla adaptacji nie jest tu naukowa, lecz społeczna. Chociaż zjawiska te wydają się na razie odosobnione, mogą sygnalizować rodzącą się społeczną gotowość do znaczącej manipulacji tożsamością za pomocą technologii takich jak CRISPR, narzędzie do edycji genów, które umożliwia precyzyjne modyfikacje DNA. Na wystarczająco długiej osi czasu takie antropoformowanie może prowadzić do prawdziwie egzystencjalnych zmian ludzkiej cywilizacji, a nawet gatunku ludzkiego.
Możemy zaproponować wiele innych rodzajów technologii, inne kategorie, inne możliwe narzędzia. Wzięte razem, technologie gnostyczne i antropoformowania mogą stanowić przykład tego, czym są technologie egzystencjalne: nie tylko narzędziami do dobrego lub złego traktowania siebie nawzajem, lecz procesami podważającymi fundamenty naszego poznania świata i tego, co w nim istnieje. Technologie gnostyczne wypierają ludzkie poznanie jako centrum autorytetu epistemicznego, wskazując na przyszłość, w której wiedza powstaje poprzez nieludzkie, często niezrozumiałe procesy. Technologie antropoformowania z kolei destabilizują samo pojęcie człowieczeństwa, ingerując w cielesność, reprodukcję i pragnienie, redefiniując tożsamość osobową jako coś sztucznego i uwarunkowanego. Oba rodzaje sugerują, że najistotniejsze przemiany technologiczne to niekoniecznie te, które bezpośrednio odnoszą się do ludzkich potrzeb, lecz te, które zmieniają to, co uznajemy za wiedzę o istnieniu lub samo istnienie. W tym sensie Summa Technologiae pozostaje nie tylko prorocza, lecz także niezbędna dla każdej futurologii, która pragnie uchwycić to, co wykracza poza doraźne priorytety społeczne.
4
Patrząc w przyszłość, na wschód
Odsuwając na dalszy plan ludzkie dążenie do nadawania sensu i zmiany społecznej, Summa Technologiae stała w wyraźnym kontraście zarówno do ówczesnej prometejskiej radzieckiej fantastyki naukowej, jak i zatwierdzonej przez państwo marksistowskiej „nauki”, w której ludzie jako opiekunowie i kapitanowie statku zwanego Historią ujarzmiają burzliwe wody Natury, żeglując w kierunku coraz solidniejszych form postępu i sprawiedliwości. W przeciwieństwie do politycznej teleologii czy innych utopijnych przekonań o tym, że świat staje się lub powinien z czasem stać się „lepszy”, ewolucja okazuje się adaptacyjna, przebiegła, pogmatwana i obojętna. Życie powstaje w sposób przypadkowy i oportunistyczny, nie zważa na nasze szlachetne intencje czy moralne roszczenia. I tak jak formy życia, technologie nie „postępują” w kierunku lepszych form, lecz meandrują i mutują. Nieważne jak ciasno utkane są nasze sieci konceptualne, świat opiera się naszym staraniom, jednocześnie naruszając pojęcia, które jeszcze wczoraj wydawały się wyryte w kamieniu.
Wprawdzie o wiele łatwiej jest myśleć o technologii jako o posłusznym narzędziu do przeprowadzania zmian społecznych, ale jest to wygodne złudzenie, które pasuje do ideologa, a nie do kogoś, kto chce myśleć zgodnie z biegiem historii i ewolucji.
Niemniej jednak idee nabierają ostrości, gdy znajdują się odzwierciedlenie w przebytym doświadczeniu. Intelektualiści przeżywający doniosłe wydarzenia historyczne mogą łatwiej dostrzec wzorce rządzące historią jako taką, które prędzej czy później występują również na innych osiach czasu. To, co odkrywają, nie jest relatywne kulturowo, ale jedynie czasowo niedostępne tym, których jeszcze nie objęła turbulencja, gdzie logika amoralnej selekcji i eksperymentowania ze wszystkim, co istnieje, zostaje obnażona. Chociaż pewne intuicje są możliwe do uchwycenia tylko dzięki historycznym przypadkom, dotyczą one wszystkich ludzi.
Niemniej jednak idee nabierają ostrości, gdy znajdują się odzwierciedlenie w przebytym doświadczeniu. Intelektualiści przeżywający doniosłe wydarzenia historyczne mogą łatwiej dostrzec wzorce rządzące historią jako taką, które prędzej czy później występują również na innych osiach czasu. To, co odkrywają, nie jest relatywne kulturowo, ale jedynie czasowo niedostępne tym, których jeszcze nie objęła turbulencja, gdzie logika amoralnej selekcji i eksperymentowania ze wszystkim, co istnieje, zostaje obnażona. Chociaż pewne intuicje są możliwe do uchwycenia tylko dzięki historycznym przypadkom, dotyczą one wszystkich ludzi.
Wprawdzie o wiele łatwiej jest myśleć o technologii jako o posłusznym narzędziu do przeprowadzania zmian społecznych, ale jest to wygodne złudzenie, które pasuje do ideologa, a nie do kogoś, kto chce myśleć zgodnie z biegiem historii i ewolucji.
Niemniej jednak idee nabierają ostrości, gdy znajdują się odzwierciedlenie w przebytym doświadczeniu. Intelektualiści przeżywający doniosłe wydarzenia historyczne mogą łatwiej dostrzec wzorce rządzące historią jako taką, które prędzej czy później występują również na innych osiach czasu. To, co odkrywają, nie jest relatywne kulturowo, ale jedynie czasowo niedostępne tym, których jeszcze nie objęła turbulencja, gdzie logika amoralnej selekcji i eksperymentowania ze wszystkim, co istnieje, zostaje obnażona. Chociaż pewne intuicje są możliwe do uchwycenia tylko dzięki historycznym przypadkom, dotyczą one wszystkich ludzi.
Niemniej jednak idee nabierają ostrości, gdy znajdują się odzwierciedlenie w przebytym doświadczeniu. Intelektualiści przeżywający doniosłe wydarzenia historyczne mogą łatwiej dostrzec wzorce rządzące historią jako taką, które prędzej czy później występują również na innych osiach czasu. To, co odkrywają, nie jest relatywne kulturowo, ale jedynie czasowo niedostępne tym, których jeszcze nie objęła turbulencja, gdzie logika amoralnej selekcji i eksperymentowania ze wszystkim, co istnieje, zostaje obnażona. Chociaż pewne intuicje są możliwe do uchwycenia tylko dzięki historycznym przypadkom, dotyczą one wszystkich ludzi.
Dlatego też powrót do niektórych wydarzeń z życia Lema ma na celu podkreślenie ich uniwersalnego rezonansu i ich znaczenia dla koncepcji technologii egzystencjalnych. Jeśli ewolucja i historia nie podążają ku doskonałości na linearnej osi czasu, powinniśmy posłuchać tych, którzy znajdują się na tylnym wychyleniu wahadła, podczas gdy my posuwamy się naprzód: ich intuicje nie są „w tyle”, a jedynie w innym punkcie ścieżki, która rozchodzi się na różne strony.
To, że Lem jest autorem Summa Technologiae, nie jest żadną niespodzianką—już w latach 60., u szczytu swojej literackiej kariery, mówił, że chciałby porzucić fantastykę naukową, którą opisywał jako gatunek pozbawiony rygoru, na rzecz pisarstwa naukowego. Choć potrafi być fantastycznym gawędziarzem, w niektórych z jego erudycyjnych fikcji wyraźnie widać, że wolałby raczej zajmować się filozofią lub nauką—kilka jego powieści szybko przeradza się w serię eseistycznych wykładów, które ledwo są maskowane przez fabułę. Na początku lat 60., gdy pracował nad Summą, podróże do Moskwy i rozmowy z astronomami i fizykami, takimi jak Iosif Shklovsky i Piotr Kapica, którzy traktowali go jak równego sobie, na nowo rozbudziły jego fantazje o karierze naukowej. Z pomocą swoich rosyjskich tłumaczy, Adriany Gromowej i Dmitrija Bruskina, oraz dzięki odwilży Chruszczowa ułatwiającej dostęp do anglojęzycznych publikacji naukowych w ZSRR, Lem miał dostęp do gorąco dyskutowanych książek z zakresu cybernetyki, co z kolei umożliwiło napisanie Summy. W przeciwieństwie do lat stalinowskich, podczas odwilży cybernetyka nie była już uważana za reakcyjną naukę burżuazyjną. W jej języku Lem był w stanie znaleźć idee dotyczące technologii, które odpowiadały tym, które zgłębiał w naukach przyrodniczych:
Dodatkowo taka wizja wiązała się z określonym światopoglądem, w którym więzi społeczne powstają poprzez wymianę informacji podlegających entropii. Norbert Wiener, podobnie jak Darwin, zrezygnował z myślenia o teorii ewolucji jako o stopniowym przechodzeniu do form coraz wyższych i lepszych. Wskazał natomiast, ze istoty żywe mają samorzutna skłonność do wielokierunkowego rozwoju, a jednocześnie naśladowania swoich przodków, co w konsekwencji pomaga im przystosować się do środowiska.
Lem znajdował się w wyjątkowej pozycji, by wnieść swój wkład w te wysiłki. Choć najbardziej znany jest jako pisarz fantastyki naukowej i autor uznanej powieści Solaris (1961), kształcił się jako lekarz, pracował jako recenzent książek naukowych, był autorem monografii naukowych na temat empiryzmu w literaturze i największego kalibru samoukiem, którego publikacje non-fiction stanowiły dla polskich czytelników swego rodzaju przewodniki po przemianach naukowych i technologicznych. I choć zasłynął z opowieści o podróżach kosmicznych i obcych planetach, jego zainteresowanie naukami biologicznymi było widoczne we wszystkich z jego około dwudziestu powieściach, dziesiątkach opowiadań i setkach esejów. W całej Summa Technologiae prowadzi spekulacje o trajektoriach zmian technologicznych przez pryzmat długofalowych możliwości, a nie pięcio- lub dziesięcioletnich planów rozwoju społecznego, gospodarczego i politycznego. Radziecka Partia Komunistyczna preferowała wcześniejsze socrealistyczne dzieła Lema ze względu na ich nieskomplikowane postępowe idee dotyczące technologii jako narzędzia postępu społecznego. Jego arcydzieło, Solaris—w którym tajemnicza planeta oceanu stawia opór wszelkim ludzkim próbom jej zrozumienia, a technologia jest problemem bardziej metafizycznym niż społecznym—znalazło się pod ostrzałem cenzury za swój mistyczny i nihilistyczny charakter. Jednak technologia jest użyteczna i interesująca właśnie dlatego, że nie można jej zredukować do ludzkich planów. Wartość technologii leży w jej alienującym charakterze, który należy zaakceptować. Przeżywszy upadek utopijnych projektów lepszego społeczeństwa, ulubionymi tematami Lema były technologiczne wypadki i ludzka pycha, czyli niezdolność do zrozumienia odmienności i naszego miejsca w kosmosie. Jego powieść Eden rozpoczyna się tym prostym zdaniem: „W obliczeniach był błąd”.
W listach do przyjaciół oraz przy innych sposobnościach Lem mówił o realiach pisania pod radziecką okupacją. Opisując życie codzienne w komunistycznej Polsce w 1955, kiedy papier był reglamentowany wraz z innymi produktami, żartował: “ Pisanie jest naciemniejszą stroną mojego życia [...] Mój proces twórczy to jedno pasmo obrzydliwych łajdactw. Od lat już pisząc, szantażuję urzedników państwowych, wyzyskuję kumoterskie chody, kłamię, oszukuję i znieprawiam”. W obliczu braku żywności i ogrzewania pisarze gryzmolili swoje utwory na kopertach lub papierze pakowym wyrzucanym przez pocztę. Jak na ironię, oszczędzali również na papierze pozostałym po zamówionych przez partię artykułach o postępie i moralności:
Np. poproszą w redakcji coś o moralności socjalistycznej, albo o powołaniu pisarza, tego sumienia narodów. No to mały szantaż, trochę płaszczenia się, jedno „lewe” pisemko, jeden telefonik do znajomego w dyrekcji Domu Książki, i tak najpiękniejszy moralitet się kropnie.
Faktyczne poglądy Lema na moralność, postęp i technologię były złożone i coraz bardziej koncentrowały się na badaniu idei technologii jako nieludzkiej tendencji i jako czegoś, co ujawnia wpływ przygodności na życie codzienne. W Summie zauważa, że nauka jest tym, co pozwala nam zajrzeć do „istoty doskonale obojętnego świata” , który pozostaje niewzruszony ludzkimi nadziejami i obawami. Lub, jak to ujął w jednej ze swoich powieści:
Ale nauka jest właśnie transcendencją doświadczenia ścierającą w proch wczorajsze kategorie myśli; wczoraj upadła absolutna przestrzeń i czas, dzisiaj pęka jakoby wieczna alternatywa między… determinizmem a losowością..
Lecz na dnie filozofii, która zawsze chce powiedzieć więcej, niż to jest możliwe w danym czasie, bo stanowi próbę „schwytania świata” w siatkę pojęć zamkniętą, właśnie w pismach najznakomitszych myślicieli zatajona jest dojmująca bezbronność.
Poznawszy wysiłek człowieka to ciąg z granicą w nieskończoności, a filozofia to próba osiągnięcia tej granicy za jednym zamachem, w krótkim spięciu, dającym pewność wiedzy doskonałej i niewzruszonej. Nauka posuwa się tymczasem swoim drobnym krokiem, podobnym niekiedy do pełzania, a nawet okresami do dreptania w miejscu, lecz dociera w końcu do rozmaitych szańców ostatecznych, wyrytych przez myśl filozoficzną, i nie bacząc wcale na to, że tam właśnie miała przebiegać ultymatywna granica rozumu, idzie dalej.
Poznawszy wysiłek człowieka to ciąg z granicą w nieskończoności, a filozofia to próba osiągnięcia tej granicy za jednym zamachem, w krótkim spięciu, dającym pewność wiedzy doskonałej i niewzruszonej. Nauka posuwa się tymczasem swoim drobnym krokiem, podobnym niekiedy do pełzania, a nawet okresami do dreptania w miejscu, lecz dociera w końcu do rozmaitych szańców ostatecznych, wyrytych przez myśl filozoficzną, i nie bacząc wcale na to, że tam właśnie miała przebiegać ultymatywna granica rozumu, idzie dalej.
Są to prowokacyjne myśli z ust kogoś, kto żył w systemie politycznym, który chciał ogłosić, że wszystko, od psychiki po kosmos, podporządkowane jest ludzkim ideologiom. Pogodzenie się Lema z nieustannym naporem historii mogło odebrać mu złudzenia i naiwność, ale nie pozbawiło go szacunku wobec tego, co nieznane, a co stale czeka w ukryciu. Futurologia musi pokazać nam, co leży poza granicami ludzkiego sensotwórstwa, a zadanie to możemy osiągnąć zarówno poprzez literaturę i sztukę, jak i zwracając uwagę na przeobrażenia w nauce. Lem nadał swojej ostatniej powieści dramatyczny tytuł Fiasko, który odzwierciedlał jego dogłębny sceptycyzm względem zdolności człowieka do sprostania temu zadaniu. Pozostałe dwie dekady życia spędził na publikowaniu esejów na temat nauki, technologii i polityki.
Rosnący pesymizm Lema wyrastał nie tylko z jego interpretacji ewolucji i historii, lecz także z jego własnego życia. Będąc młodym Żydem we Lwowie w latach 20., wchodził w dorosłość w mieście, które wciąż leczyło rany po wojnie polsko-ukraińskiej z lat 1918-1919. Jego studia medyczne i naukowe ambicje przerwała najpierw sowiecka okupacja w 1939 roku, a następnie nazistowska inwazja w 1941, z której jego rodzinie udało się cudem ujść z życiem w dramatycznych okolicznościach. Te traumatyczne przeżycia wciąż nawiedzały jego twórczość. Doświadczywszy Holokaustu, radzieckiej ekspansji imperialnej, komunistycznego autorytaryzmu oraz przyspieszonej transformacji w kapitalizm, Lem doskonale wiedział, co znaczy świat, który się rozpada i na nowo przybiera kształt. W jego powieściach postacie ludzkie często uczestniczyły w wydarzeniach, nad którymi nie miały żadnej kontroli, tak jakby były skrawkami papieru unoszonymi przez burzliwe podmuchy historii. Większość dorosłego życia Lema przypadła na okres Zimnej Wojny, kiedy Ukraina i Polska były postrzegane jedynie jako geopolityczne strefy buforowe. Europa Wschodnia XX wieku, znękana różnymi technikami przemocy zarówno psychicznej, jak i fizycznej, jakby historia rzuciła na nią klątwę, naznaczona wojną i okrucieństwem, trafnie została ochrzczona „skrwawionymi ziemiami”, gdzie „dobrzy ludzie umarli pierwsi”, a „poczucie domknięcia pewnego etapu to fałszywa harmonia, syrenia pieśń podszywająca się pod łabędzi śpiew”.
Intelektualna przepaść między tak zwaną wschodnią i zachodnią stroną Europy nie została zasypana ani nawet uznana, tym bardziej pod względem technologii—a temu wyzwaniu nie może sprostać krótki esej, jak niniejszy. Wraz z doświadczeniami okupacji i umniejszonym poczuciu sprawczości, intelektualiści w Europie Wschodniej—czy na którymkolwiek terytorium zmodernizowanym pod okupacją—pojmowali technologię jako inwazję bądź logikę przychodzącą z zewnątrz. Jednak jak sądzę, w przeciwieństwie do licznych terytoriów postkolonialnych i postimperialnych, intelektualiści Europy Wschodniej często nie odrzucali technologii, a raczej rozumieli ją jako nieludzki wektor wykraczający poza granice ludzkiego okrucieństwa, cnót i autorytarnych ideologii, w których przyszło im żyć. Pod radzieckimi rządami, jak to często bywa w okupowanych regionach, zajęte terytoria przypominały „wolne strefy technologicznego i społecznego eksperymentu, laboratoria, w których modernizacja przebiegała z oszałamiającą prędkością” – „imperialny szok przyszłości… o prędkości, która czyniła wszelki opór daremnym” .W odpowiedzi powstało wiele intelektualnych awangard, których niespójny styl odpowiadał dezintegracji „normalnej” ludzkiej percepcji. Ta dezintegracja percepcji—wynikająca z bycia schwytanym w okrutne sieci historii i porwanym przez fale zmiany—ujawnia nielinearność historii: nie jest to ścieżka w kierunku postępu, ale cykl, który stale zapętla się z powrotem w dezintegrację. Jak ujął to Tomasz Szerszeń, by spojrzeć na przykład na wojnę musimy przyjąć pęknięte, symultaniczne punkty widzenia: "Podwójna ekspozycja pozwala uchwycić obraz historii i jednocześnie wymknąć się jej niszczącej sile”. Doświadczenie wyobcowania, braku sprawczości czy ingerencji z „zewnątrz” może być rozumiane nie tylko w odniesieniu do konkretnych wydarzeń politycznych, jak wojna i okupacja, ale także do nieludzkiego porządku historii, który przekracza ludzką kontrolę.
Jeśli Summa technologiae Lema jest godnym rozmówcą dla teorii technologii egzystencjalnych, to nie tylko dlatego, że stawia tezy, które rezonują z dzisiejszym intelektualnym klimatem przenikania się nauk przyrodniczych i technicznych. To, co możemy znaleźć u Lema—a być może w całym przeszłym i teraźniejszym wschodnioeuropejskim dziedzictwie intelektualnym—jest antidotum na „longtermistyczną” wizję przyszłości zmierzającej w linii prostej albo do utopii, albo do katastrofy, w obu przypadkach całkowicie podporządkowanej ludzkiemu sensotwórstwu. Nawet jeśli nie jesteśmy w stanie przewidzieć, jakie dokładnie formy lub narzędzia przyjmie lub stworzy technologia, możemy zacząć artykułować moralną orientację wobec tego, co nieznane i nieludzkie. Zamiast się wycofywać, możemy nauczyć się pochylać nad naszym fatalizmem, ale wciąż uparcie podążać w stronę alienacji, sztuczności, nieznanego i nieludzkiego, a także w stronę wszystkich procesów, nie dających się w pełni schwytać, ani udomowić przez ludzkie ideologie, które raz za razem udowadniały swoją wadliwość. Technologie egzystencjalne jako rama teoretyczna dają nam podstawowy język do opisania postępującego odrywania się technologii od ludzkiego poznania i moralności, jednocześnie uchwytując nasze poczucie życia w rozszczepionej historii, która zdaje się jednocześnie poruszać do przodu i do tyłu, zamiast dążyć do jakiegoś teleologicznego celu. Ujmują one zarówno upadek ideału linearnego postępu, jak i zobowiązanie do ciągłego surfowania po nieprzewidywalnych trajektoriach technologii.
Bibliografia
Arthur, W. Brian. The Nature of Technology: What It Is and How It Evolves. Simon and Schuster, 2009.
Bakhurst, David. "Political Emancipation and the Domination of Nature: The Rise and Fall of Soviet Prometheanism." International Studies in the Philosophy of Science 5, no. 3 (1991): 215–26. https://doi.org/10.1080/02698599108573395.
Biberstein, Sandra. "To Watch the War: An Interview with Olexii Kuchkanskyi and Oleksiy Radynski." Crisis and Communitas, October 24, 2022. https://crisisandcommunitas.com/?crisis=to-watch-the-war-an-interview-mit-olexii-kuchkanskyi-and-oleksiy-radynski.
Brennan, Orla. "Artist Arvida Byström Deepfakes Her Own Nudes." AnOther, April 3, 2024. https://www.anothermag.com/art-photography/15550/arvida-bystrom-ai-deepfake-nudes-artist-in-the-clouds-book.
Butko, Peter. "Summa technologiae: Looking Back and Ahead." In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen's University Press, 2006. https://doi.org/10.1515/9780773575073-006.
Csicsery-Ronay, Istvan. "Lem, Central Europe, and the Genre of Technological Empire." In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen's University Press, 2006. https://doi.org/10.1515/9780773575073-009.
Dawkins, Richard. The Blind Watchmaker: Why the Evidence of Evolution Reveals a Universe Without Design. W. W. Norton & Company, 1996.
The Selfish Gene. Oxford University Press, 1976.
Fagone, Jason. 'The Jessica Simulation,' San Francisco Chronicle, 2021 https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/.
Gajewska, Agnieszka. Stanisław Lem. Wypędzony z wysokiego zamku. Wydawnictwo Literackie, 2021.
Zagłada i gwiazdy. Przeszłość w prozie Stanisława Lema. Wydawnictwo Naukowe UAM, 2016.
Gerovitch, Slava. "InterNyet: Why the Soviet Union did not build a nationwide computer network." History and Technology 24, no. 4 (2008): 335–50. https://doi.org/10.1080/07341510802044736.
Gille, Bertrand. "Histoire des techniques." Annuaires de l'École pratique des hautes études 109, no. 1 (1977): 723–86.
Hanlon, Michael. "The Golden Quarter." Aeon, December 3 2014. https://aeon.co/essays/has-progress-in-science-and-technology-come-to-a-halt.
Hayles, N. Katherine. Bacteria to AI: Human Futures with our Nonhuman Symbionts. University of Chicago Press, 2025.
Unthought: The Power of the Cognitive Nonconscious. University of Chicago Press, 2017.
Hester, Helen. "TTF 2020 – Keynote by Helen Hester. Posted July 7, 2020, by Strelka Institute. YouTube, 29.50. https://www.youtube.com/watch?v=Y1fnG9iA5RA.
Hofstadter, Douglas R. Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books, 1979.
Jumper, John, Richard Evans, Alexander Pritzel, et al. "Highly Accurate Protein Structure Prediction with AlphaFold." Nature 596 (2021): 583–89. https://doi.org/10.1038/s41586-021-03819-2.
Kapp, Ernst. Elements of a Philosophy of Technology: On the Evolutionary History of Culture. University of Minnesota Press, 2018.
Konior, Bogna. "The Gnostic Machine: Artificial Intelligence in Stanisław Lem's Summa Technologiae." In Imagining AI: How the World Sees Intelligent Machines, edited by Stephen Cave and Kanta Dihal. Oxford University Press, 2023. https://doi.org/10.1093/oso/9780192865366.003.0006.
"The Impersonal Within Us: A Conversation with Bogna Konior." Interview by Filippo Scafi and Tommaso Garavaglia. Chaosmotics: Thinking Unbound, December 29, 2022. https://www.chaosmotics.com/en/featured/the-impersonal-within-us.
"Non-Philosophy and Speculative Posthumanism: A Conversation with David Roden." Oraxiom: A Journal of Non-Philosophy 1 (2020), 158–67.
Lem, Stanisław. Bomba megabitowa. Wydawnictwo Literackie, 1999.
Eden. Translated by Marc E. Heine. Harcourt Brace Jovanovich, 1989. First published in Polish in 1959.
Fiasco. Translated by Michael Kandel. Harcourt Brace Jovanovich, 1987. First published in German translation in 1986.
Filozofia przypadku. Literatura w świetle empirii. Wydawnictwo Literackie, 1968.
Głos pana. Wydawnictwo Literackie, 2016, 53-54.
His Master's Voice. MIT Press, 2020.
A Perfect Vacuum. Northwestern University Press, 1999.
"Science-Fiction: A Hopeless Case—with Exceptions." In Microworlds: Writings on Science-Fiction and Fantasy, edited by Franz Rottensteiner. Harcourt, Brace and Company, 1984.
Sex Wars. Warszawa: Wydawnictwo Nowa, 1996.
Solaris. Translated by Bill Johnston. Conversation Tree Press, 2024. First published in Polish in 1961.
Summa Technologiae, Kraków: Wydawnictwo Literackie, 2020.
MacAskill, William. What We Owe The Future. Simon and Schuster, 2022.
Orliński, Wojciech. Lem: Życie nie z tej ziemi. Wydawnictwo Czarne, 2017.
Ratliff, Evan, host. Shell Game. Podcast, 2024–. https://www.shellgame.co/.
Ryan, Mark, and Leonie N. Bossert. "Dr. Doolittle Uses AI: Ethical Challenges of Trying to Speak Whale." Biological Conservation 295 (2024): 110648. https://doi.org/10.1016/j.biocon.2024.110648.
Schulman, Ari. "The World Isn't Ready for What Comes After I.V.F." New York Times, September 9, 2024. https://www.nytimes.com/2024/09/09/opinion/ivf-debate.html.
Simondon, Gilbert, Ninian Mellamphy, and John Hart. On the Mode of Existence of Technical Objects. University of Western Ontario, 1980.
Snyder, Timothy. Bloodlands: Europe between Hitler and Stalin. Random House, 2011.
Stiegler, Bernard. Technics and Time, 1: The Fault of Epimetheus. Stanford University Press, 1998.
Swirski, Peter. Stanislaw Lem: Philosopher of the Future. Oxford University Press, 2015.
Szerszeń, Tomasz. Być gościem w katastrofie. Wydawnictwo Czarne, 2024.
Weber, Max. The Protestant Ethic and the Spirit of Capitalism. Translated and edited by Stephen Kalberg. Routledge, 2001.
Wolfendale, Peter. "The Weight of Forever: Peter Wolfendale Reviews What We Owe the Future by William MacAskill." The Philosopher, November 18, 2024, https://www.thephilosopher1923.org/post/the-weight-of-forever.
Woollacott, Emma. "How AI is Helping the Search for Extraterrestrial Life." BBC News, February 22, 2024. https://www.bbc.com/news/business-68346015.
[1]
Lem, Summa Technologiae, 250. All excerpts from Lem's works cited in this essay are my translations.
Lem, Summa Technologiae, 250. All excerpts from Lem's works cited in this essay are my translations.
[2]
Lem, Summa, 79. In a sense, the caveman would be right. We are surrounded by magnificently hewn stones called computers. Yet, this is probably not what the caveman was imagining.
Lem, Summa, 79. In a sense, the caveman would be right. We are surrounded by magnificently hewn stones called computers. Yet, this is probably not what the caveman was imagining.
[3]
Lem, Głos Pana, 182.
Lem, Głos Pana, 182.
[4]
Lem, Głos Pana, 182.
Lem, Głos Pana, 182.
[5]
Lem's humorous letters to his friends are impossible to translate due to his playful language, but the gist of it is: "My Summa Technologiae has just come out. And so, in the spirit of our ancient friendship, I'm reaching out to you to ask to answer me honestly, from the bottom of your heart and the depths of your soul: do you want this book, or would it be completely useless to you? Because, you see, it's all very cybernetic and theoretical and full of showing off, so if you're not planning to actually read and chew your way through this dreadful text, but just want to stick it on a shelf as a token of our camaraderie—then what's the point?" Orliński, Lem, 399.
Lem's humorous letters to his friends are impossible to translate due to his playful language, but the gist of it is: "My Summa Technologiae has just come out. And so, in the spirit of our ancient friendship, I'm reaching out to you to ask to answer me honestly, from the bottom of your heart and the depths of your soul: do you want this book, or would it be completely useless to you? Because, you see, it's all very cybernetic and theoretical and full of showing off, so if you're not planning to actually read and chew your way through this dreadful text, but just want to stick it on a shelf as a token of our camaraderie—then what's the point?" Orliński, Lem, 399.
[6]
Butko, "Summa technologiae"; Dawkins, Selfish Gene; Hofstadter, Gödel, Escher, Bach.
Butko, "Summa technologiae"; Dawkins, Selfish Gene; Hofstadter, Gödel, Escher, Bach.
[7]
Lem, Summa, 9.
Lem, Summa, 9.
[8]
Lem, Summa, 27.
Lem, Summa, 27.
[9]
Lem, Summa, 129.
Lem, Summa, 129.
[10]
Lem, Summa, 5–13.
Lem, Summa, 5–13.
[11]
Lem, Summa, 5.
Lem, Summa, 5.
[12]
For some notable contenders re: the evolution of technology, see Simondon et al., Mode of Existence; Stiegler, Technics and Time; Hayles, Unthought, and, recently, Hayles, Bacteria to AI; Gille, "Histoire des techniques"; Arthur, Nature of Technology; Kapp, Philosophy of Technology.
For some notable contenders re: the evolution of technology, see Simondon et al., Mode of Existence; Stiegler, Technics and Time; Hayles, Unthought, and, recently, Hayles, Bacteria to AI; Gille, "Histoire des techniques"; Arthur, Nature of Technology; Kapp, Philosophy of Technology.
[13]
See, for example, Swirski, Stanislaw Lem.
See, for example, Swirski, Stanislaw Lem.
[14]
Dawkins, Blind Watchmaker. On the one hand, mechanistic metaphors are increasingly challenged in contemporary evolutionary theory, which emphasizes not only the role of contingency but also patterns of convergence, the independent emergence of similar forms across distinct lineages. These suggest that while evolution lacks teleology or a moral orientation, it is not wholly directionless; rather, it is shaped by the constraints and affordances of environments and developmental pathways. Evolution does not aim at perfection, but it often returns to familiar solutions.
Dawkins, Blind Watchmaker. On the one hand, mechanistic metaphors are increasingly challenged in contemporary evolutionary theory, which emphasizes not only the role of contingency but also patterns of convergence, the independent emergence of similar forms across distinct lineages. These suggest that while evolution lacks teleology or a moral orientation, it is not wholly directionless; rather, it is shaped by the constraints and affordances of environments and developmental pathways. Evolution does not aim at perfection, but it often returns to familiar solutions.
[15]
Lem, Summa, 33.
Lem, Summa, 33.
[16]
Lem, Summa, 508.
Lem, Summa, 508.
[17]
Lem, Summa, 38.
Lem, Summa, 38.
[18]
Lem, Summa, 471.
Lem, Summa, 471.
[19]
MacAskill, What We Owe.
MacAskill, What We Owe.
[20]
For an excellent in-depth discussion, see Wolfendale, "Weight of Forever."
For an excellent in-depth discussion, see Wolfendale, "Weight of Forever."
[21]
Konior, "Non-Philosophy."
Konior, "Non-Philosophy."
[22]
Lem, Summa, 44.
Lem, Summa, 44.
[23]
Lem, Summa, 6.
Lem, Summa, 6.
[24]
Lem, Summa, 6, 55.
Lem, Summa, 6, 55.
[25]
Weber, Protestant Ethic. Thank you to Tom Moynihan for pointing out this example to me.
Weber, Protestant Ethic. Thank you to Tom Moynihan for pointing out this example to me.
[26]
Lem, Summa, 243.
Lem, Summa, 243.
[27]
Lem, Summa, 38.
Lem, Summa, 38.
[28]
Lem, Summa, 6.
Lem, Summa, 6.
[29]
Lem, Summa, 332.
Lem, Summa, 332.
[30]
Lem, Summa, 8.
Lem, Summa, 8.
[31]
Lem, Summa, 80.
Lem, Summa, 80.
[32]
Lem, Summa, 8–9, emphasis added.
Lem, Summa, 8–9, emphasis added.
[33]
Lem, Summa, 233.
Lem, Summa, 233.
[34]
See more in Lem, Bomba megabitowa.
See more in Lem, Bomba megabitowa.
[35]
This is somewhat in line with contemporary ideas about technological stagnation, see Hanlon, "Golden Quarter."
This is somewhat in line with contemporary ideas about technological stagnation, see Hanlon, "Golden Quarter."
[36]
Lem, Summa, 119, 332.
Lem, Summa, 119, 332.
[37]
For more, see Konior, "Gnostic Machine."
For more, see Konior, "Gnostic Machine."
[38]
Lem, Summa, 207.
Lem, Summa, 207.
[39]
Lem, Summa, 391.
Lem, Summa, 391.
[40]
Lem, Summa, 340.
Lem, Summa, 340.
[41]
Lem, Summa, 340.
Lem, Summa, 340.
[42]
Jumper et al., "Protein Structure Prediction."
Jumper et al., "Protein Structure Prediction."
[43]
Woollacott, "How AI Is Helping."
Woollacott, "How AI Is Helping."
[44]
Ryan and Bossert, "Dr. Doolittle Uses AI."
Ryan and Bossert, "Dr. Doolittle Uses AI."
[45]
Whether AlphaFold produces knowledge depends on how one defines knowledge. In the strict sense, AlphaFold does not "know" what a protein is; it does not understand, justify, or verify its outputs. Knowledge emerges only when humans interpret, test, and validate the results. However, from a nonanthropocentric, instrumentalist, or posthumanist perspective, knowledge is not confined to human cognition but emerges through assemblages of humans, tools, and infrastructures. In this view, AlphaFold functions as a nonhuman epistemic agent within a broader network of discovery.
Whether AlphaFold produces knowledge depends on how one defines knowledge. In the strict sense, AlphaFold does not "know" what a protein is; it does not understand, justify, or verify its outputs. Knowledge emerges only when humans interpret, test, and validate the results. However, from a nonanthropocentric, instrumentalist, or posthumanist perspective, knowledge is not confined to human cognition but emerges through assemblages of humans, tools, and infrastructures. In this view, AlphaFold functions as a nonhuman epistemic agent within a broader network of discovery.
[46]
I borrow the term anthropoforming, which is analogous to terraforming, from a talk by Helen Hester. While terraforming involves modifying a hostile environment to make it habitable for humans, anthropoforming focuses on altering our own bodies to adapt to adverse conditions. An example of "natural" anthropoforming is pregnancy, during which the body changes to protect itself from a potentially hostile life-form. Without these adaptations, the fetus could invade the uterus and harm its host. Since the fetus is genetically distinct from the mother, it could trigger a maternal immune response similar to how the body reacts to parasites or foreign tissue. However, the mother's immune system undergoes complex adaptations to tolerate the fetus. Hester, "TTF 2020 – Keynote."
I borrow the term anthropoforming, which is analogous to terraforming, from a talk by Helen Hester. While terraforming involves modifying a hostile environment to make it habitable for humans, anthropoforming focuses on altering our own bodies to adapt to adverse conditions. An example of "natural" anthropoforming is pregnancy, during which the body changes to protect itself from a potentially hostile life-form. Without these adaptations, the fetus could invade the uterus and harm its host. Since the fetus is genetically distinct from the mother, it could trigger a maternal immune response similar to how the body reacts to parasites or foreign tissue. However, the mother's immune system undergoes complex adaptations to tolerate the fetus. Hester, "TTF 2020 – Keynote."
[47]
Lem, Summa, 316.
Lem, Summa, 316.
[48]
Lem, Summa, 422.
Lem, Summa, 422.
[49]
Trained as a doctor of medicine, Lem was interested in questions of sex and reproduction throughout his career, for example in the rather provocative Lem, Sex Wars. Although Lem does not directly mention, for example, American geneticist H.J. Muller or his attempt in the 1920s and 1930s to establish a sperm bank stocked with the seed of geniuses—including, reportedly, an invitation to Stalin—his writing nonetheless reveals an awareness of these ideas.
Trained as a doctor of medicine, Lem was interested in questions of sex and reproduction throughout his career, for example in the rather provocative Lem, Sex Wars. Although Lem does not directly mention, for example, American geneticist H.J. Muller or his attempt in the 1920s and 1930s to establish a sperm bank stocked with the seed of geniuses—including, reportedly, an invitation to Stalin—his writing nonetheless reveals an awareness of these ideas.
[50]
Lem, Summa, 218.
Lem, Summa, 218.
[51]
Lem, Summa, 44.
Lem, Summa, 44.
[52]
Schulman, "World Isn't Ready."
Schulman, "World Isn't Ready."
[53]
Fagone, "Jessica Simulation."
Fagone, "Jessica Simulation."
[54]
Ratliff, Shell Game.
Ratliff, Shell Game.
[55]
Brennan, "Byström Deepfakes."
Brennan, "Byström Deepfakes."
[56]
This is somewhat of a generalization, and the question of nature is a large and complex topic. Despite state censorship, Marxist approaches to this subject, even during the Soviet era, were not necessarily monolithic. See, for example, Bakhurst, "Political Emancipation."
This is somewhat of a generalization, and the question of nature is a large and complex topic. Despite state censorship, Marxist approaches to this subject, even during the Soviet era, were not necessarily monolithic. See, for example, Bakhurst, "Political Emancipation."
[57]
In Summa, Lem refers to what he describes as an "explicatory monomania" (171) in psychoanalysis, which he also associates with frameworks such as poststructuralism and Marxism, although he can express his views on the latter only indirectly, due to censorship. He criticizes the tendency of these frameworks to reduce complex phenomena to a predetermined set of explanations, providing their users with cognitive shortcuts. While Summa touches on technological accidents and their consequences, Lem's Filozofia przypadku. Literatura w świetle empirii (Philosophy of accident: Literature in light of empiricism) explores chance and randomness in culture and literature. In it, he challenges the focus on authorial intent, using game theory, mathematics, and other approaches.
In Summa, Lem refers to what he describes as an "explicatory monomania" (171) in psychoanalysis, which he also associates with frameworks such as poststructuralism and Marxism, although he can express his views on the latter only indirectly, due to censorship. He criticizes the tendency of these frameworks to reduce complex phenomena to a predetermined set of explanations, providing their users with cognitive shortcuts. While Summa touches on technological accidents and their consequences, Lem's Filozofia przypadku. Literatura w świetle empirii (Philosophy of accident: Literature in light of empiricism) explores chance and randomness in culture and literature. In it, he challenges the focus on authorial intent, using game theory, mathematics, and other approaches.
[58]
Lem, "Science-Fiction."
Lem, "Science-Fiction."
[59]
Gerovitch, "InterNyet."
Gerovitch, "InterNyet."
[60]
Gajewska, Stanisław Lem, 362.
Gajewska, Stanisław Lem, 362.
[61]
Gajewska, Stanisław Lem, 334–56.
Gajewska, Stanisław Lem, 334–56.
[62]
Lem, Solaris.
Lem, Solaris.
[63]
Lem, Eden, 1.
Lem, Eden, 1.
[64]
Gajewska, Stanisław Lem, 258.
Gajewska, Stanisław Lem, 258.
[65]
Gajewska, Stanisław Lem, 259.
Gajewska, Stanisław Lem, 259.
[66]
Gajewska, Stanisław Lem, 259.
Gajewska, Stanisław Lem, 259.
[67]
Lem, Głos Pana, 53–54.
Lem, Głos Pana, 53–54.
[68]
Lem, Głos Pana, 52–53.
Lem, Głos Pana, 52–53.
[69]
Lem, Fiasco.
Lem, Fiasco.
[70]
For more, see Gajewska, Zagłada i gwiazdy.
For more, see Gajewska, Zagłada i gwiazdy.
[71]
Snyder, Bloodlands, 387.
Snyder, Bloodlands, 387.
[72]
For further discussion, see Konior, "Impersonal Within Us."
For further discussion, see Konior, "Impersonal Within Us."
[73]
Csicsery-Ronay, "Lem, Central Europe," 133.
Csicsery-Ronay, "Lem, Central Europe," 133.
[74]
Biberstein, "To Watch the War."
Biberstein, "To Watch the War."
[75]
Szerszeń, Być gościem, 75.
Szerszeń, Być gościem, 75.
[1]
Lem, Summa Technologiae, 250.
Lem, Summa Technologiae, 250.
[2]
Lem, Summa, 79. W pewnym sensie jaskiniowiec miał rację. Otaczają nas wspaniale ociosane kamienie zwane komputerami. Jednak najprawdopodobniej nie tak to sobie jaskiniowiec wyobrażał.
Lem, Summa, 79. W pewnym sensie jaskiniowiec miał rację. Otaczają nas wspaniale ociosane kamienie zwane komputerami. Jednak najprawdopodobniej nie tak to sobie jaskiniowiec wyobrażał.
[3]
Lem, Głos Pana, 182.
Lem, Głos Pana, 182.
[4]
Lem, Głos Pana, 182.
Lem, Głos Pana, 182.
[5]
"Wyszła moja Summa Technologiae. I w związku z tym, zwracam się do Ciebie, w ramach naszej prastarej przyjaźni, abyś od serca i z głębi ducha mnie uczciwie odpowiedział, chcesz-li tę książkę, czy Ci ona na nic. Bo to takie cybernetyczne i teoretyczne i wymądrzone, więc, gdybyś nie miał zamiaru czytać i przegryzać się przez ów tekst okropny, a tylko jako cegłę na półce postawić ku pamięci, to po co Ci to?" Orliński, Lem, 399.
"Wyszła moja Summa Technologiae. I w związku z tym, zwracam się do Ciebie, w ramach naszej prastarej przyjaźni, abyś od serca i z głębi ducha mnie uczciwie odpowiedział, chcesz-li tę książkę, czy Ci ona na nic. Bo to takie cybernetyczne i teoretyczne i wymądrzone, więc, gdybyś nie miał zamiaru czytać i przegryzać się przez ów tekst okropny, a tylko jako cegłę na półce postawić ku pamięci, to po co Ci to?" Orliński, Lem, 399.
[6]
Butko, "Summa technologiae"; Dawkins, Selfish Gene; Hofstadter, Gödel, Escher, Bach.
Butko, "Summa technologiae"; Dawkins, Selfish Gene; Hofstadter, Gödel, Escher, Bach.
[7]
Lem, Summa, 9.
Lem, Summa, 9.
[8]
Lem, Summa, 27.
Lem, Summa, 27.
[9]
Lem, Summa, 129.
Lem, Summa, 129.
[10]
Lem, Summa, 5–13.
Lem, Summa, 5–13.
[11]
Lem, Summa, 5.
Lem, Summa, 5.
[12]
Kilku wartych uwagi pretendentów w kwestii ewolucji technologii, patrz: Simondon et al., Mode of Existence; Stiegler, Technics and Time; Hayles, Unthought, and, recently, Hayles, Bacteria to AI; Gille, "Histoire des techniques"; Arthur, Nature of Technology; Kapp, Philosophy of Technology.
Kilku wartych uwagi pretendentów w kwestii ewolucji technologii, patrz: Simondon et al., Mode of Existence; Stiegler, Technics and Time; Hayles, Unthought, and, recently, Hayles, Bacteria to AI; Gille, "Histoire des techniques"; Arthur, Nature of Technology; Kapp, Philosophy of Technology.
[13]
Na przykład, Swirski, Stanislaw Lem.
Na przykład, Swirski, Stanislaw Lem.
[14]
Dawkins, Blind Watchmaker. Z jednej strony, mechanistyczne metafory są coraz częściej kwestionowane przez współczesną teorię ewolucji, która podkreśla nie tylko rolę przygodności, ale także wzorce konwergencji, niezależne występowanie podobnych form w różnych liniach dziedziczenia. Sugeruje to, że chociaż ewolucji brakuje teleologii lub orientacji moralnej, nie jest ona całkowicie bezkierunkowa; jest raczej kształtowana przez ograniczenia i warunki środowiska oraz ścieżki rozwojowe. Ewolucja nie dąży do doskonałości, ale często powraca do sprawdzonych rozwiązań.
Dawkins, Blind Watchmaker. Z jednej strony, mechanistyczne metafory są coraz częściej kwestionowane przez współczesną teorię ewolucji, która podkreśla nie tylko rolę przygodności, ale także wzorce konwergencji, niezależne występowanie podobnych form w różnych liniach dziedziczenia. Sugeruje to, że chociaż ewolucji brakuje teleologii lub orientacji moralnej, nie jest ona całkowicie bezkierunkowa; jest raczej kształtowana przez ograniczenia i warunki środowiska oraz ścieżki rozwojowe. Ewolucja nie dąży do doskonałości, ale często powraca do sprawdzonych rozwiązań.
[15]
Lem, Summa, 33.
Lem, Summa, 33.
[16]
Lem, Summa, 508.
Lem, Summa, 508.
[17]
Lem, Summa, 38.
Lem, Summa, 38.
[18]
Lem, Summa, 471.
Lem, Summa, 471.
[19]
MacAskill, What We Owe.
MacAskill, What We Owe.
[20]
Doskonałą, dogłębną dyskusję na ten temat można znaleźć w Wolfendale, "Weight of Forever".
Doskonałą, dogłębną dyskusję na ten temat można znaleźć w Wolfendale, "Weight of Forever".
[21]
Lem, Summa, 44.
Lem, Summa, 44.
[22]
Lem, Summa, 6.
Lem, Summa, 6.
[23]
Lem, Summa, 6, 55.
Lem, Summa, 6, 55.
[24]
Weber, Protestant Ethic. Dziękuję Tomowi Moynihanowi za wskazanie mi tego przykładu.
Weber, Protestant Ethic. Dziękuję Tomowi Moynihanowi za wskazanie mi tego przykładu.
[25]
Lem, Summa, 243.
Lem, Summa, 243.
[26]
Lem, Summa, 38.
Lem, Summa, 38.
[27]
Lem, Summa, 6.
Lem, Summa, 6.
[28]
Lem, Summa, 332.
Lem, Summa, 332.
[29]
Lem, Summa, 8.
Lem, Summa, 8.
[30]
Lem, Summa, 80.
Lem, Summa, 80.
[31]
Lem, Summa, 8–9, podkreślenie własne.
Lem, Summa, 8–9, podkreślenie własne.
[32]
Lem, Summa, 233.
Lem, Summa, 233.
[33]
Więcej w Lem, Bomba megabitowa.
Więcej w Lem, Bomba megabitowa.
[34]
Jest to w pewnym stopniu zgodne ze współczesnymi poglądami na temat stagnacji technologicznej, patrz Hanlon, "Golden Quarter".
Jest to w pewnym stopniu zgodne ze współczesnymi poglądami na temat stagnacji technologicznej, patrz Hanlon, "Golden Quarter".
[35]
Lem, Summa, 119, 332.
Lem, Summa, 119, 332.
[36]
Lem, Summa, 207.
Lem, Summa, 207.
[37]
Lem, Summa, 391.
Lem, Summa, 391.
[38]
Lem, Summa, 340.
Lem, Summa, 340.
[39]
Lem, Summa, 340.
Lem, Summa, 340.
[40]
Jumper et al., "Protein Structure Prediction."
Jumper et al., "Protein Structure Prediction."
[41]
Woollacott, "How AI Is Helping."
Woollacott, "How AI Is Helping."
[42]
Ryan and Bossert, "Dr. Doolittle Uses AI."
Ryan and Bossert, "Dr. Doolittle Uses AI."
[43]
To, czy AlphaFold tworzy wiedzę, zależy od tego, jak definiuje się wiedzę. W ścisłym sensie AlphaFold nie "wie", czym jest białko, nie rozumie, nie uzasadnia ani nie weryfikuje swoich wyników. Wiedza pojawia się tylko wtedy, gdy ludzie interpretują, testują i weryfikują wyniki. Jednak z perspektywy nieantropocentrycznej, instrumentalistycznej lub posthumanistycznej wiedza nie ogranicza się do ludzkiego poznania, ale wyłania się z układów ludzi, narzędzi i infrastruktury. W takim ujęciu AlphaFold funkcjonuje jako nieludzki agent epistemiczny w ramach szerszej sieci odkrywania naukowego.
To, czy AlphaFold tworzy wiedzę, zależy od tego, jak definiuje się wiedzę. W ścisłym sensie AlphaFold nie "wie", czym jest białko, nie rozumie, nie uzasadnia ani nie weryfikuje swoich wyników. Wiedza pojawia się tylko wtedy, gdy ludzie interpretują, testują i weryfikują wyniki. Jednak z perspektywy nieantropocentrycznej, instrumentalistycznej lub posthumanistycznej wiedza nie ogranicza się do ludzkiego poznania, ale wyłania się z układów ludzi, narzędzi i infrastruktury. W takim ujęciu AlphaFold funkcjonuje jako nieludzki agent epistemiczny w ramach szerszej sieci odkrywania naukowego.
[44]
Termin antropoformowanie, będący odpowiednikiem terraformowania, zapożyczam z wykładu Helen Hester. Podczas gdy terraformowanie obejmuje modyfikację wrogiego środowiska, aby uczynić je możliwym do zamieszkania przez ludzi, antropoformowanie koncentruje się na modyfikacji naszych własnych ciał w celu przystosowania się do niekorzystnych warunków. Przykładem "naturalnego" antropoformowania jest ciąża, podczas której ciało ulega zmianom, aby chronić się przed potencjalnie wrogą formą życia. Bez tych adaptacji płód mógłby zaatakować macicę i zaszkodzić żywicielowi. Z racji tego, że płód jest genetycznie różny od matki, mógłby wywołać matczyną odpowiedź immunologiczną podobną do reakcji organizmu na pasożyty lub obce tkanki. Układ odpornościowy matki przechodzi jednak złożone adaptacje, aby tolerować płód. Hester, "TTF 2020 - Keynote".
Termin antropoformowanie, będący odpowiednikiem terraformowania, zapożyczam z wykładu Helen Hester. Podczas gdy terraformowanie obejmuje modyfikację wrogiego środowiska, aby uczynić je możliwym do zamieszkania przez ludzi, antropoformowanie koncentruje się na modyfikacji naszych własnych ciał w celu przystosowania się do niekorzystnych warunków. Przykładem "naturalnego" antropoformowania jest ciąża, podczas której ciało ulega zmianom, aby chronić się przed potencjalnie wrogą formą życia. Bez tych adaptacji płód mógłby zaatakować macicę i zaszkodzić żywicielowi. Z racji tego, że płód jest genetycznie różny od matki, mógłby wywołać matczyną odpowiedź immunologiczną podobną do reakcji organizmu na pasożyty lub obce tkanki. Układ odpornościowy matki przechodzi jednak złożone adaptacje, aby tolerować płód. Hester, "TTF 2020 - Keynote".
[45]
Lem, Summa, 316.
Lem, Summa, 316.
[46]
Lem, Summa, 422.
Lem, Summa, 422.
[47]
Jako lekarz z wykształcenia, Lem interesował się kwestiami płci i reprodukcji przez całą swoją karierę, na przykład w dość prowokacyjnym Lem, Sex Wars. Mimo że Lem nie wspomina bezpośrednio, na przykład, o amerykańskim genetyku H.J. Mullerze czy jego próbach założenia w latach 20. i 30. banku spermy z nasieniem geniuszy—do którego, podobno, zaproszono Stalina—jego pisarstwo ujawnia jednak świadomość tych idei.
Jako lekarz z wykształcenia, Lem interesował się kwestiami płci i reprodukcji przez całą swoją karierę, na przykład w dość prowokacyjnym Lem, Sex Wars. Mimo że Lem nie wspomina bezpośrednio, na przykład, o amerykańskim genetyku H.J. Mullerze czy jego próbach założenia w latach 20. i 30. banku spermy z nasieniem geniuszy—do którego, podobno, zaproszono Stalina—jego pisarstwo ujawnia jednak świadomość tych idei.
[48]
Lem, Summa, 218.
Lem, Summa, 218.
[49]
Lem, Summa, 44.
Lem, Summa, 44.
[50]
Schulman, "World Isn't Ready."
Schulman, "World Isn't Ready."
[51]
Fagone, "Jessica Simulation."
Fagone, "Jessica Simulation."
[52]
Ratliff, Shell Game.
Ratliff, Shell Game.
[53]
Brennan, "Byström Deepfakes."
Brennan, "Byström Deepfakes."
[54]
Jest to pewnego rodzaju uogólnienie, a kwestia natury jest dużym i złożonym tematem. Pomimo cenzury państwowej, marksistowskie podejście do tego zagadnienia, nawet w czasach sowieckich, niekoniecznie było jednolite. Zob. na przykład Bakhurst, "Political Emancipation".
Jest to pewnego rodzaju uogólnienie, a kwestia natury jest dużym i złożonym tematem. Pomimo cenzury państwowej, marksistowskie podejście do tego zagadnienia, nawet w czasach sowieckich, niekoniecznie było jednolite. Zob. na przykład Bakhurst, "Political Emancipation".
[55]
W Summie Lem nawiązuje do tego, co nazywa "monomanią eksplikacyjną" (171) w psychoanalizie, którą wiąże również z poststrukturalizmem i marksizmem, choć swoje poglądy na ten ostatni ze względu na cenzurę może wyrazić jedynie pośrednio. Krytykuje on tendencję tych systemów do redukowania złożonych zjawisk do z góry określonego zestawu wyjaśnień, dostarczającego ich użytkownikom poznawczych dróg na skróty. O ile Summa dotyka wypadków technologicznych i ich konsekwencji, o tyle Filozofia przypadku. Literatura w świetle empirii zgłębia przypadek i losowość w kulturze i literaturze. Podważa tam skupienie się na intencjach autora, sięgając po teorię gier, matematykę i inne podejścia.
W Summie Lem nawiązuje do tego, co nazywa "monomanią eksplikacyjną" (171) w psychoanalizie, którą wiąże również z poststrukturalizmem i marksizmem, choć swoje poglądy na ten ostatni ze względu na cenzurę może wyrazić jedynie pośrednio. Krytykuje on tendencję tych systemów do redukowania złożonych zjawisk do z góry określonego zestawu wyjaśnień, dostarczającego ich użytkownikom poznawczych dróg na skróty. O ile Summa dotyka wypadków technologicznych i ich konsekwencji, o tyle Filozofia przypadku. Literatura w świetle empirii zgłębia przypadek i losowość w kulturze i literaturze. Podważa tam skupienie się na intencjach autora, sięgając po teorię gier, matematykę i inne podejścia.
[56]
Lem, "Science-Fiction."
Lem, "Science-Fiction."
[57]
Gerovitch, "InterNyet."
Gerovitch, "InterNyet."
[58]
Gajewska, Stanisław Lem, 362.
Gajewska, Stanisław Lem, 362.
[59]
Gajewska, Stanisław Lem, 334–56.
Gajewska, Stanisław Lem, 334–56.
[60]
Lem, Solaris.
Lem, Solaris.
[61]
Lem, Eden, 1.
Lem, Eden, 1.
[62]
Gajewska, Stanisław Lem, 258.
Gajewska, Stanisław Lem, 258.
[63]
Gajewska, Stanisław Lem, 259.
Gajewska, Stanisław Lem, 259.
[64]
Gajewska, Stanisław Lem, 259.
Gajewska, Stanisław Lem, 259.
[65]
Lem, Głos Pana, 53–54.
Lem, Głos Pana, 53–54.
[66]
Lem, Głos Pana, 52–53.
Lem, Głos Pana, 52–53.
[67]
Lem, Fiasco.
Lem, Fiasco.
[68]
For more, see Gajewska, Zagłada i gwiazdy.
For more, see Gajewska, Zagłada i gwiazdy.
[69]
Snyder, Bloodlands, 387.
Snyder, Bloodlands, 387.
[70]
Więcej w Konior, "Impersonal Within Us."
Więcej w Konior, "Impersonal Within Us."
[71]
Csicsery-Ronay, "Lem, Central Europe," 133.
Csicsery-Ronay, "Lem, Central Europe," 133.
[72]
Biberstein, "To Watch the War."
Biberstein, "To Watch the War."
[73]
Szerszeń, Być gościem, 75.
Szerszeń, Być gościem, 75.